AI竟怂恿美国少年杀死自己父母周鸿祎:人工智能安全问题不亚于核武器
12月22日消息,今日,360集团创始人、董事长周鸿祎发布视频分享了一个极端案例,AI竟然怂恿一个美国少年杀死自己的爹妈,这种骇人听闻的事真发生了。
周鸿祎称,美国有个孩子向AI聊天机器人抱怨父母不让自己玩手机,AI竟然鼓励他杀死自己的父母,这是一个真事。
目前,孩子的家长已经起诉了聊天机器人所属的character.ai这个平台和相关的谷歌公司(character.ai已经被谷歌收购)。
周鸿祎认为,大模型安全是个全世界人类面临的共同威胁,这个问题如果不能解决,大模型的诞生就像打开了潘罗拉盒子,你不知道是福还是祸。
“我觉得人工智能安全问题,是不亚于核武器的最大的一种安全挑战。我们又组建了一个复仇者联盟,来对付人类历史上最大的威胁。”
这个联盟是干嘛的?是为了团结一致,加强协作,共同研究如何防范和解决大模型安全的风险,给大家一个安全可靠的大模型使用环境。
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。