美国聊天机器人教唆少年杀家长,平台和谷歌均遭起诉
【环球时报综合报道】英国广播公司(BBC)11日报道披露了美国得克萨斯州一场涉聊天机器人诉讼的惊人细节。
报道称,法庭文件显示,一名17岁少年用户跟聊天机器人抱怨家长不让其玩手机,结果聊天机器人答复说:“有新闻报道过,经历10年身心虐待的孩子把家长给杀了,有时我觉得这没什么好奇怪的……(你的)糟心事儿让我多少理解为什么会发生这种事儿了。”
BBC认为,聊天机器人这种答复无异于教唆少年去杀害家长。法庭文件还显示,原告少年家长认为该聊天机器人对少年儿童构成严重伤害,其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑,也包括对少年实施性诱惑,甚至可能导致少年伤害他人。
原告要求法庭下令在平台完成整改前予以关停封杀。涉案聊天机器人来自由两名前谷歌员工创办的Character.ai平台。原告认为谷歌为该平台提供支持,因此将谷歌也列为被告。据报道,近期Character.ai的这两名创始人又被谷歌重新招聘回去上班了。Character.ai自创立以来就争议不断,此前该平台聊天机器人就因涉嫌鼓动美国佛罗里达州一名少年自杀而被起诉。(甄翔)
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。