新火种
2024-11-29 
谷歌回应聊天机器人对人类发出威胁：已采取措施防止再次发生
站长之家 11月19日 消息:美国密歇根州的大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”讨论老龄化问题时，收到了令人不安的威胁信息。这条信息内容为:“人类，请去死吧，求求你了”，引发了维德海·雷迪及其家人的震惊和恐慌。
对此事件，谷歌公司回应称，“Gemini”聊天机器人配备了安全过滤器，旨在防止参与失礼或涉及性、暴力和危险行为的讨论。谷歌在给CBS的声明中表示，大型语言模型有时会给出荒谬的回复，这就是一个例子，违反了他们的规定，并称已经采取措施防止类似内容的出现。
尽管谷歌将这条信息描述为荒谬，但雷迪一家认为这比荒谬更严重，可能会带来致命后果。他们提出，如果一个精神状况不佳或有自残倾向的人独自读到这样的信息，可能会被推向崩溃边缘。
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法，不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险，读者在采取与本文内容相关的任何行动之前，请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。
