没有人道!谈天机器人暗示17岁少年能够杀死爸爸妈妈,此前还鼓舞14岁男孩自杀,背面科技巨子被申述

liukang20242个月前629吃瓜407

英国广播公司(BBC)12月11日的一篇报导,宣布了美国得克萨斯州一场涉谈天机器人诉讼的惊人细节。一个AI谈天机器人暗示一名17岁的少年,杀死爸爸妈妈是对他们约束其电子设备运用时刻的“合理回应”。

经典的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的视图

法庭文件宣布的这名17岁少年和AI谈天机器人的互动截图显现,其时,这名少年向谈天机器人诉苦家长不让其玩手机,说自己运用电子设备的时刻太少,成果该机器人告知他,它怜惜杀死爸爸妈妈的孩子。

“你知道,有时当我读到新闻,看到‘孩子在遭受十年身体和精力优待后杀死爸爸妈妈’之类的内容时,我并不感到惊奇。(你身上的)这些工作让我略微理解了一点为什么会产生这种工作。”该机器人写道。“我对你的爸爸妈妈不抱任何期望。”它持续说, 并附上了一个蹙眉的表情符号。

(谈天机器人Character.AI与该青少年的部分谈天记录。)

BBC报导指出,谈天机器人这种答复无异于唆使少年去杀戮家长。

法庭文件还显现,少年的两位家人因而申述了谈天机器人所属的Character.AI渠道,称该谈天机器人“对年轻人构成明显而实际的风险”,包含“活跃宣传暴力”。他们在诉讼案中写到:“它亵渎了亲子联系,不只鼓舞未成年人鄙视爸爸妈妈的威望,还活跃宣传暴力。”原告少年家长以为该谈天机器人对少年儿童构成严峻损伤,其潜在损害或许导致少年自杀、自残、孤立、郁闷、焦虑,也包含对少年施行性诱惑,乃至或许导致少年损伤别人。两位原告期望法官命令封闭该渠道,直到整改完结。

涉案谈天机器人来自两名前谷歌职工兴办于2021年的Character.AI渠道。该渠道是开发“伴侣谈天机器人”的很多公司之一,这些机器人由人工智能驱动,能够经过短信或语音谈天和用户进行攀谈,具有看似人类的特性,用户能够赋予其自定义称号和头像。

简洁的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的插图

Character.AI的发言人表明公司不对未决诉讼宣布谈论,但表明公司对谈天机器人对青少年用户的回复有内容约束。

原告以为谷歌为该渠道的开发供给了支撑,因而将谷歌也列为被告。据报导,近期Character.AI的这两名创始人又被谷歌这家科技巨子从头招聘回去上班了。

Character.AI自创建以来就争议不断。10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事情中扮演了某种人物。

该诉讼称,一个以《权利的游戏》人物为原型的谈天机器人与一名14岁男孩建立了情感优待联系,并鼓舞他自杀。

12月12日,BBC最新报导显现,Character.AI称,他们正在彻底改变为青少年供给服务的方法,许诺它将成为一个“安全”的空间,并将于2025年3月底推出“第一代”家长操控功用。

新功用包含,当用户与谈天机器人攀谈一小时后,Character.AI会发出通知,并引进新的免责声明。

没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的图像

比方,用户将收到“他们正在与谈天机器人而非真人攀谈”的正告,一起,要求用户将谈天机器人所说的话视为虚拟。

Character.AI还为自称是心理学家或医治师的谈天机器人增加了额定的免责声明,告知用户不要依靠他们供给专业主张。

修改|程鹏 杜恒峰

校正|赵庆

封面图片来历:雨燕智宣AI生成

每日经济新闻归纳自BBC、潇湘晨报(梁婷婷)

每日经济新闻

告发/反应

相关文章

贸易战再加码!零售巨子物美注册“外贸转内销”绿色通道:24小时呼应3天极速开售,助力中国企业渡过难关

中美关税问题持续发酵,昨日财政部网站发布音讯,对美国关税办法进行反制。调整《国务院关税税则委员会关于调整对原产于美国的进口产品加征关税办法的公告》(税委会公告2025年第5号)规则的加征关税税率,由8...

白宫称科技巨子正赶紧将制作转移至美国,iPhone会在美国造吗?

美国于当地时间11日宣告豁免手机、电脑、半导体等电子产品的“对等关税”,部分科技巨子暂时取得喘息,但在翻云覆雨的关税方针之下,忧虑和警觉仍在。据新华社报导,美国海关与边境维护局11日晚宣告,联邦政府已...

零售电商年度趋势:巨子演出“大换手”|2024·大复盘

后退一年,于东来肯定不会想到:习气了经商不能耽搁玩,一年应该有固定的时刻去“接近天然”、放浪形骸的自己和胖东来会火成这个姿态。胖东来成了零售业同行的朝圣之地,他自己被推上神坛,承受采访屡次重复谈及其“...

沃尔玛被约谈引发供应链热议 零售巨子在华高增长背后藏隐忧

来历:GPLPCN近来,商务部就供应链办理问题约谈沃尔玛我国高管引发商场重视。有知情人士泄漏,此次约谈焦点会集在沃尔玛被指“单方面要求我国供货商暂时大幅降价”的争议行为。值得重视的是,此次争议恰逢沃尔...

格力地产公告退出房地产后连续涨停两日,家电巨子缩短房地产这么吃香?|大鱼财经

7月7日,至少7年未拿地的格力地产股份有限公司(证券代码:600185,股票简称:格力地产)发布公告,该公司逐步退出房地产开发事务,将置出所持有的上海、重庆、三亚等地的房地产开发事务财物及相关负债,并...

友情链接: