潮新闻
2024-11-23 
齐向东：三大策略破解AI“三化”危机
潮新闻客户端 记者 张云山 柳蓬
在2024年世界互联网大会乌镇峰会上，“人工智能”成为万众瞩目的焦点。网络安全技术发展与国际合作论坛上，来自全球网络安全技术领域的政、产、学、研嘉宾齐聚一堂，围绕“智能向善，人工智能安全风险与治理”的主题展开热烈讨论。
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在会上发表主题演讲，针对AI面临的黑箱化、黑产化、武器化“三重危机”，提出了三大安全策略，为AI的健康发展保驾护航。
奇安信集团董事长齐向东发表主题演讲。
齐向东表示，人工智能的“三化”危机正日益加剧。AI黑箱化导致内容生成良莠不齐，攻击者可以轻易利用漏洞篡改大模型输出内容，甚至直接瘫痪模型。在今年的实网攻防演练中，奇安信攻击队就成功攻破了某AI大模型，展示了这一风险的严峻性。
AI黑产化更是让深度伪造泛滥成灾。不法分子利用AI技术伪造图像、音视频等内容，实施诈骗，公众和企业深受其害。齐向东指出，深度伪造技术已经成为网络诈骗的新手段，必须引起高度重视。
至于AI武器化，更是让黑客攻击愈演愈烈。人工智能可以生成恶意软件、钓鱼邮件，快速发现目标系统中的漏洞，大幅降低网络攻击门槛。不懂代码、不懂技术的普通人也能借助AI成为黑客，网络空间的安全形势愈发严峻。
面对这些挑战，齐向东提出了三大安全策略。首先，要通过多维度体系化防护，确保AI大模型在基础运行环境、训练环境、API接口以及数据安全等方面的合规性。奇安信打造的大模型卫士和AI安全整体应对方案，正是为了解决这一问题而生。
其次，要用“鉴伪”“防伪”技术有效遏制深度伪造。奇安信自研的深度鉴伪模型能够准确识别多种前沿AI伪造技术生成的虚假图片视频，为政府执法等部门提供了有力支持。
最后，要用安全大模型反哺安全能力大提升。奇安信在内生安全体系之上，部署了自研的QAX-GPT安全大模型，不仅让大模型更懂客户业务，也让安全体系效率更高、能力更强。AI安全大模型的研判效率已经提到了人工的60多倍，实现了安全运营模式的智慧化转型。
齐向东强调，有了高效的安全治理，AI才有未来。奇安信将运用好技术优势，为AI安全治理贡献更多力量，努力为全社会营造更加和谐、更加繁荣的未来。
“转载请注明出处”
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法，不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险，读者在采取与本文内容相关的任何行动之前，请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。
