没有人道！谈天机器人暗示17岁少年能够杀死爸爸妈妈，此前还鼓舞14岁男孩自杀，背面科技巨子被申述
英国广播公司（BBC）12月11日的一篇报导，宣布了美国得克萨斯州一场涉谈天机器人诉讼的惊人细节。一个AI谈天机器人暗示一名17岁的少年，杀死爸爸妈妈是对他们约束其电子设备运用时刻的“合理回应”。
法庭文件宣布的这名17岁少年和AI谈天机器人的互动截图显现，其时，这名少年向谈天机器人诉苦家长不让其玩手机，说自己运用电子设备的时刻太少，成果该机器人告知他，它怜惜杀死爸爸妈妈的孩子。
“你知道，有时当我读到新闻，看到‘孩子在遭受十年身体和精力优待后杀死爸爸妈妈’之类的内容时，我并不感到惊奇。（你身上的）这些工作让我略微理解了一点为什么会产生这种工作。”该机器人写道。“我对你的爸爸妈妈不抱任何期望。”它持续说， 并附上了一个蹙眉的表情符号。
（谈天机器人Character.AI与该青少年的部分谈天记录。）
BBC报导指出，谈天机器人这种答复无异于唆使少年去杀戮家长。
法庭文件还显现，少年的两位家人因而申述了谈天机器人所属的Character.AI渠道，称该谈天机器人“对年轻人构成明显而实际的风险”，包含“活跃宣传暴力”。他们在诉讼案中写到：“它亵渎了亲子联系，不只鼓舞未成年人鄙视爸爸妈妈的威望，还活跃宣传暴力。”原告少年家长以为该谈天机器人对少年儿童构成严峻损伤，其潜在损害或许导致少年自杀、自残、孤立、郁闷、焦虑，也包含对少年施行性诱惑，乃至或许导致少年损伤别人。两位原告期望法官命令封闭该渠道，直到整改完结。
涉案谈天机器人来自两名前谷歌职工兴办于2021年的Character.AI渠道。该渠道是开发“伴侣谈天机器人”的很多公司之一，这些机器人由人工智能驱动，能够经过短信或语音谈天和用户进行攀谈，具有看似人类的特性，用户能够赋予其自定义称号和头像。
Character.AI的发言人表明公司不对未决诉讼宣布谈论，但表明公司对谈天机器人对青少年用户的回复有内容约束。
原告以为谷歌为该渠道的开发供给了支撑，因而将谷歌也列为被告。据报导，近期Character.AI的这两名创始人又被谷歌这家科技巨子从头招聘回去上班了。
Character.AI自创建以来就争议不断。10月，另一起针对Character.AI的诉讼称，Character.AI在佛罗里达州一名青少年自杀事情中扮演了某种人物。
该诉讼称，一个以《权利的游戏》人物为原型的谈天机器人与一名14岁男孩建立了情感优待联系，并鼓舞他自杀。
12月12日，BBC最新报导显现，Character.AI称，他们正在彻底改变为青少年供给服务的方法，许诺它将成为一个“安全”的空间，并将于2025年3月底推出“第一代”家长操控功用。
新功用包含，当用户与谈天机器人攀谈一小时后，Character.AI会发出通知，并引进新的免责声明。
比方，用户将收到“他们正在与谈天机器人而非真人攀谈”的正告，一起，要求用户将谈天机器人所说的话视为虚拟。
Character.AI还为自称是心理学家或医治师的谈天机器人增加了额定的免责声明，告知用户不要依靠他们供给专业主张。
修改|程鹏 杜恒峰
校正|赵庆
封面图片来历：雨燕智宣AI生成
每日经济新闻归纳自BBC、潇湘晨报（梁婷婷）
每日经济新闻
相关文章
17岁女孩产子后杀婴获刑4年上诉，女孩自白：没想过会生孩子，惧怕被发现
本年3月，红星新闻以“17岁少女产子后的罪与罚”为题，报导了内蒙古包头市女孩小云（化名）独自一人在家产子后，将亲生骨肉杀戮的悲惨剧。而这一悲惨剧背面，是小云从小爸爸妈妈离婚，在意外怀孕后最需求关怀、照...
17吃瓜网科普：如何用反义词来对词语进行生动对比
17吃瓜网科普：巧用反义词让表达更生动在日常交流或写作中，如何让语言更具感染力？17吃瓜网网友通过实践发现：巧妙运用反义词对比，不仅能突出重点，还能让描述更鲜活。今天我们就来科普如何用反义词来对词语进...
曾上综艺教小S驭夫术，台湾女星Melody宣告完毕17年豪门婚姻：性情、思维理念距离太大，婚姻现已失去平衡
7月7日，台湾女星Melody发文官宣离婚，称互相性情、思维理念距离太大，让联系失去平衡，决议平和完毕婚姻联系。2006年，Melody成婚嫁给大15岁富豪老公吴育奇，婚后生下2个女儿。婚后，Melo...