据全国信息安全标准化技术委员会网站，该机构制定的《生成式人工智能服务安全基本要求》面向社会公开征求意见。该文件要求：不使用语料黑名单来源的数据进行训练；单一来源语料内容中含违法不良信息超过5%的，应进入黑名单。并在附录中给出了语料及生成内容共5类31种的主要安全风险。

对于生成式人工智能，国内监管几乎与技术发展同步，反映了对这一技术的高度重视。由国家网信办联合多部门出台的《生成式人工智能服务管理暂行办法》已于7月10日发布，自8月15日起施行，其第17条规定：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

目前，已有多家大模型通过备案，可正式上线面向公众提供服务，包括文心一言（百度）、云雀（抖音）、紫东太初（中科院）等。该办法第4条与第7条，分别对提供和使用生成式人工智能服务及对模型进行数据训练提出了若干要求，涉及价值观与数据来源等多个方面。显然，正在征求意见中的《生成式人工智能服务安全基本要求》呼应并细化了这些规定。

生成式人工智能有何特别与殊胜之处？想必大家听得耳朵都起茧了。目前，某些生成式人工智能如GPT-4或已跨入通用人工智能（Artificial General Intelligence, AGI）的门槛。而AGI翻成“通用人工智能”其实有一定误导性，因为General Intelligence指的是“一般智力”，让孩子测智商，做排除了特定语言与文化影响的瑞文矩阵（Raven’s Matrices）试题，测出来的就是这个“一般智力”。AGI意味着，通过人工方法，大模型实现了可与人类心智媲美的“一般智力”。微软科学家们的论文显示：GPT-4 的智能非常接近人类水平。

这是一个革命性的突破。此类企近或达到AGI的大模型，哪怕长期稳定在一个相当于人类中等智力水平上，它的学习能力也是任何人类都望尘莫及的：可以学习人类创造与积累的所有显性知识，任何以文字、图片、音频与视频呈现的知识它都可以掌握。这意味着大量人类中的知识工作可以被此类生成式人工智能所替代，如翻译与外语口语老师。这会在多大程度上重塑我们的生产与生活方式，是大家都在关切与深思的问题。

此外，生成式人工智能持什么价值观，是绕不过去的一个问题。我们每个人都有价值观。我们为什么有这样的价值观，既取决于基因与其他先天禀赋，也取决于后天的教养与习染。同理，如果不加任何干预，生成式人工智能的“价值观”就取决于给它喂的语料，更多地给它喂浸渍某种价值观的语料，它就会更多地呈现该种价值观。如果在先给它人为设置了某种特定价值观，那么它就会秉持这种价值观，就会排斥与负面解读与它价值观不一致的语料。

从GPT的早期版本来看，这种特征已经出现。一个经典的例子是：要求它给拜登写一首赞美诗，它欣然同意，且写得很肉麻；要求它给特朗普写一首赞美诗，它断然拒绝，表示要“政治中立”。这背后是开发它的人持有这些价值观，既可以给它在先设置特定价值观，也可以给它喂浸渍特定价值观的语料，从而实现对生成式人工智能的价值观塑造。

当然，在众目睽睽之下，开发者会尽可能隐藏生成式人工智能的价值观，而采取一种言语上“不得罪任何人、不冒犯任何人”的策略，听起来挑不出什么毛病，这种策略本身也是某种特定价值观的反映。

再畅想一下，现在的生成式人工智能相当于只有大脑、没有可自由移动的有形身体，就像一个灵魂飘荡在赛博空间。如果将来把这一灵魂“注入”仿生机器人甚至行动能力上远超人类身体的智能机器人，那对人类社会的冲击与潜在危害就更大了。人类真的能有效驾驭它们，令它们只造福而不危害人类吗？

科幻作家阿西莫夫设定过机器人三定律：机器人不得伤害人类，或坐视人类受到伤害；除非违背第一定律，否则机器人必须服从人类命令；除非违背第一或第二定律，否则机器人必须保护自己。这恐怕只是一厢情愿。未来具备AGI的智能机器人，完全可能被输入或“自行进化”出反人类的价值观，令文明与人类的存续岌岌可危；或者某些持扭曲价值观的个人或组织将具备AGI的智能机器人武器化，消灭别的民族或种族或其所讨厌的群体。

故而，我们现阶段讨论：生成式人工智能现在能干什么、将来能干什么？应该持什么价值观？对我们生产与生活方式会有多大及哪方面的冲击？人类能否有效驾驭它？会对文明与人类存续本身构成多大挑战？这些问题都是有意义的，也与地球上现在及未来的每一个人利害攸关。这不是杞人忧天，而是未雨绸缪。

陈斌

责编 辛省志