首页 > AI资讯 > 行业应用 > 中国信通院:人工智能风险划分为5个等级

中国信通院:人工智能风险划分为5个等级

新火种    2024-01-02

新京报贝壳财经讯(见习记者韦英姿)

12月24日,在2024中国信通院ICT深度观察报告会人工智能伙伴分论坛上,中国信息通信研究院(简称中国信通院)发布2023年人工智能风险管理体系。该体系将人工智能带来的风险分为两类,即自身技术系统造成的风险和应用产生的风险,并参考我国现行网络安全等级保护要求将人工智能风险划分为5个等级。

据中国信通院人工智能研究中心安全与元宇宙部主任石霖介绍,最低层风险是指不构成有意义的灾难性风险,不会对个人、企业、组织造成权益伤害,“例如AlphaGo专门用于下棋领域,可能不会对现实社会造成风险”。他表示,最高的第5级风险是指对人类社会有一定颠覆性影响,“比如不受人控制的强人工智能,由于具有极强自主性,可能会属于极高风险类别”。

该体系还将人工智能风险管理分为三方:技术提供方、技术应用提供方和真正应用方。据石霖介绍,技术提供方是指提供数据算力和原始模型的技术研发企业和团队;技术应用提供方是指集成原始模型算法、算力,直接向用户提供服务的一方;真正应用方主要是指个人和组织。“针对技术提供方和应用方,我们基于智能化程度和所在场景来确定相应的风险等级,再根据风险等级把相应的风险管理和治理理念,贯彻到研发或应用中。”石霖说。

编辑 陈莉校对 卢茜

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。