12月17日，360集团集结产业上下游合作伙伴、科研机构等在北京成立大模型安全联盟，旨在构建开放协作的大模型安全产业新模式，推进产业生态的全面融合。中国网络空间安全协会秘书长郝晓伟表示，当前人工智能安全风险日益凸显，期待基于此次契机，打造协会与企业的创新合作模式，共享技术创新与产业融合的最新成果，联合应对人工智能安全的新问题、新挑战。360集团创始人周鸿祎表示，人工智能技术是一把“双刃剑”，在带来自动化和先进工作生活方式的同时也带来很多安全问题。未来，网络安全可能会从人与人的对抗，变成机器与人的对抗，再发展为机器与机器的对抗。在周鸿祎看来，随着大模型在无人驾驶汽车、无人机、智能机器人等领域的应用日渐广泛，一旦产生幻觉等安全问题，可能对个人、社会甚至国家安全形成重大隐患。据了解，作为兼具数字安全和AI双重能力的科技企业，360很早开始关注大模型安全风险，并推出一系列有针对性的创新技术，包括开发了国内首个安全大模型，通过“以模制模”理念，利用AI大模型来检测和防范大模型可能出现的安全风险，既解决传统网络安全问题，又为攻克AI安全新挑战提供了可行性方案。周鸿祎表示，组建大模型安全联盟的意义在于要解决大模型发展过程中出现的安全问题，这既需要像360这样的网络安全专家，也需要对大模型有深入研究的同行。他认为，通过大模型安全联盟的组建，如果能提出解决大模型安全问题的中国方案，那么对全世界的大模型应用安全都有意义。除宣布联盟成立外，360在成立仪式上推出了一系列大模型安全产品，包括大模型系统安全检测平台“360智鉴”；大模型内容安全护栏“360智盾”；大模型可信增强工具“360智搜”；基于“内聚知识，外联情报”理念专为企业打造的智能知识管理与应用平台360智能文档云3.0，针对情报监测与分析提供一站式解决方案的360舆情卫士。

（辛华）来源：光明网