openai公布初版“preparedness”框架,防范ai大模型可能引发的危机
品玩12月19日讯,OpenAI 今天宣布,公布初版“Preparedness”框架,这份框架描述了 OpenAI 跟踪、评估、预测和防范日益强大的模型所带来的灾难性风险的流程。
据OpenAI 表示,其安全团队每月将向一个新的内部安全咨询小组发送报告,该小组随后将对其进行分析,并向Sam Altman和董事会提交建议。Altman和公司高层可以根据这些报告决定是否发布新的 AI 系统,但董事会有权撤销这一决定。
OpenAI 表示,旗下拥有多个团队保证大模型的安全,其中安全系统团队正专注于减少对当前模型和产品的滥用。二其超级对齐团队正为在更遥远的未来拥有的超级智能模型的安全奠定基础。准备团队负责规划前沿模型的新兴风险,并与安全系统、Superalignment 以及 OpenAI 的其他安全和政策团队建立联系。
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。