导语

AI安全大模型作为一种新兴的技术手段，正逐渐在网络安全运营中发挥重要作用，在增强网络安全分析、检测、策略制定等方面能极大的提升智能化的能力。当前，当务之急是应对语料收集、处理及评估过程的多种安全风险。这些风险可能涉及对敏感信息处理不当，产生不当信息内容等问题，这可能会在现实世界中造成重大负面影响应用。目前，亟需制定统一、全面的AI大模型语料收集、处理及评估标准，对行业进行规范和指导。2024年7月，中国国际科技促进会经研究，正式批准立项《基于大语言模型的人工智能推荐系统技术指南》、《AI安全大模型 技术指南语料库》2项团体标准。

2024年11月29日，中国国际科技促进会主办，信创云联(北京)智能技术研究有限公司承办的《基于大语言模型的人工智能推荐系统技术指南》、《AI安全大模型 技术指南语料库》2项团体标准启动会顺利召开。云南省统计建模与数据分析重点实验室主任唐年胜出席会议并致辞，联通数字科技有限公司安全事业部科创主管于城出席会议并总结。

来自云南省统计建模与数据分析重点实验室、联通数字科技有限公司、广电计量检测集团股份有限公司、云南数派数据科技有限公司、四川中电启明星信息技术有限公司、同济大学、北京理工大学、浙江大学、安徽辉一科技股份有限公司、重庆师范大学、清华大学、北京神州绿盟科技有限公司、上海电力大学、杭州安恒信息技术股份有限公司、北京邮电大学、清华大学、北京百度网讯科技有限公司、恒安嘉新(北京)科技股份有限公司、中国民航科学技术研究院、西安康奈网络科技有限公司等20余家人工智能大模型相关领域单位的50余人参加了本次会议。

会议现场

云南省统计建模与数据分析重点实验室主任唐年胜为本次会议致辞，唐主任表示，大语言模型2项标准的研制响应国家战略规划，为建设网络强国、数字强国提供有力支撑，标准的研制填补了大语言模型领域的标准空白，将促进技术创新和产业升级，有助于增强我国人工智能领域的国际竞争力，同时在隐私保护和安全防护等方面提供有力支撑，为行业健康发展保驾护航。唐主任呼吁标准起草组以科学性、合理性、先进性为原则，齐心协力大力推进人工智能大模型领域2项标准的研制。

云南省统计建模与数据分析重点实验室主任唐年胜

标准研讨环节

云南省统计建模与数据分析重点实验室工程师代表标准起草组对《基于大语言模型的人工智能推荐系统技术指南》标准的研制背景及目的、标准核心内容及应用等进行了介绍。

本标准规定了大语言模型在推荐系统中应用的架构，数据处理 、技术选型、模型选择、行为建模等要求。本标准将确立一套科学有效的基于大语言模型的推荐系统技术要求，规范 并统一基于大语言模型的推荐系统的开发、测试、部署和应用等各个环节，帮助提升信息产业发展水平、促进数字经济健康发展，在模型精度和用户体验的 提升等方面发挥积极作用。

联通数科安全事业部高级科创专家王智明代表标准起草组对《AI安全大模型技术指南语料库》标准的研制背景及目的、标准核心内容及应用等进行了介绍。

本标准给出了AI大模型语料收集、语料处理、数据评估、安全评估等指导。本标准适用于AI大模型的软件产品提供者，语料收集平台、语料处理平台语料评估等，国家或企业级语料收集平台、语料处理平台语料评估等软件产品提供者的语料收集、处理及评估可参照使用。

联通数科安全事业部高级科创专家王智明

会议最后，联通数字科技有限公司安全事业部科创主管于城对本次会议进行总结，首先对标委会和参会专家辛苦的付出表示感谢，表示在标委会和起草组的共同努力下，标准的研制稳步推进，取得了初步的进展。本次会议中参会专家为标准下一步的研制给予了很多宝贵的指导意见，2项标准的研制符合国家战略规划和产业发展的需求，对于推动大模型领域的协同创新意义重大。最后，呼吁起草组团结一致、齐头并进，共同推进标准的高质量研制，为行业高质量发展贡献力量。

标准主编单位介绍

云南省统计建模与数据分析重点实验室

云南省统计建模与数据分析重点实验室依托云南大学建设，主要围绕大数据统计理论与方法、复杂数据分析统计建模、贝叶斯分析与人工智能、数据科学与其它学科的交叉等开展基础性和应用性研究，旨在解决大数据统计基础理论和方法中的若干技术难题，满足云南省发展数字经济、生物医药和医疗健康等产业的人才和技术需求，推动统计学理论和方法的持续发展和科技进步。

联通数字科技有限公司

联通数字科技有限公司(简称“联通数科“)是中国联通的全资子公司，在原联通系统集成有限公司、联通云数据有限公司、联通大数据有限公司、联通物联网有限责任公司、联通智慧安全科技有限公司基础上组建而成。联通数科作为中国联通算网数智等数字化业务的能力与产品中心，是中国联通聚焦网络强国，数字中国主责的重要支撑力量，设有系统集成、云计算、数据智能、物联网、安全、智慧应急六大事业部及一个西部创新研究院、三个研发中心，构筑一体化科技创新、运营支撑体系，向核心竞争力突出的产品公司、技术公司转变，旗下28省产业互联网子公司开展面向客户的属地运营、本地支撑服务，4大研发中心积聚全国优势力量，实现异地协同研发，19家专业合资公司深耕行业产品与服务，实现创新发展。

标准起草组成员

云南省统计建模与数据分析重点实验室

联通数字科技有限公司

广电计量检测集团股份有限公司

云南数派数据科技有限公司

四川中电启明星信息技术有限公司

同济大学

北京理工大学

之江实验室

浙江大学

安徽辉一科技股份有限公司

重庆师范大学

清华大学

浙江大学

北京神州绿盟科技有限公司

上海电力大学

杭州安恒信息技术股份有限公司

北京邮电大学

北京百度网讯科技有限公司

恒安嘉新(北京)科技股份有限公司

中国民航科学技术研究院

西安康奈网络科技有限公司

......

会后，标准起草组将根据参会专家的意见和建议进行分析和研究，对标准草案进行相应修改与完善，形成征求意见稿，在全国团体标准信息平台组织公开意见征集，欢迎人工智能大模型相关企业为标准编制提供宝贵意见，诚邀更多人工智能大模型相关企业加入到起草组!