人工智能的全球治理

在行将结束的2023年，人工智能无疑占据了全球公共讨论的中心位置。与2016年AlphaGo和李世石的“世纪对决”给受众带来的奇观式体验不同，发布于2022年11月底的ChatGPT，以人类历史上前所未有的速度“飞入寻常百姓家”，并塑造大众意识和公共话语，改变政治、经济、社会治理、国际关系、医疗保健、教育与人文艺术等人类世界诸领域。

伴随着新技术的狂飙突进，人们愈发对人工智能取代或萎缩人类智力、助长剽窃和有害信息的潜力表示担忧，而这种担忧又与地缘政治博弈、金融资本炒作、大众媒体议程设置以及好莱坞科幻电影带来的大众文化想象等诸多因素掺杂在一起，形成相当杂驳的面相。

山姆·奥特曼（Sam Altman）

2023年11月，被称为“ChatGPT之父”的山姆·奥特曼（Sam Altman）被自家公司“扫地出门”又迅速回归“复辟”，这一戏剧性事件给这一年的人工智能大戏添上了一抹荒诞色彩，也揭示了人工智能内部管理机制的随意性和脆弱性。12月，奥特曼当选为《时代》周刊年度首席执行官。

无论亲身体验与否，人们都已被拽入一个新世界，人工智能已经成为全人类共同面临的机遇和挑战，而如何对其进行治理亦成为全球性议题。

10月26日，联合国秘书长安东尼奥·古特雷斯正式宣布联合国高级别人工智能咨询机构（High Level Advisory Body on AI）成立。古特雷斯在发言中指出：“在充满挑战的时代，人工智能可以为人类带来非凡的进步。从预测和应对危机，到推出公共卫生计划和教育服务，人工智能可以全面扩大和加强政府、民间社会和联合国的工作。对于发展中经济体而言，人工智能提供了跨越过时技术的可能性，并直接为最需要的人提供服务。”

12月21日，该机构的执行委员会发布中期报告，四名执委会成员在《世界报业辛迪加》（Project Syndicate）网站发表题为《全球AI治理必须做什么》的评论文章，介绍了其主张的人工智能治理五项原则：

首先，由于全球环境不同，风险也不同，因此每一种风险都需要有相应的解决方案。但这意味着要认识到，权利和自由是如何被特定的设计、使用（和滥用）和治理选择所危害的。未能建设性地应用人工智能——我们称之为“错过的用途”（missed uses）——可能会不必要地加剧现有的问题和不平等。

其次，由于人工智能是经济、科学和社会发展的工具，而且它已经在帮助人们的日常生活，因此必须以公共利益为出发点进行治理。这意味着要牢记与公平、可持续性、社会和个人福祉相关的目标，以及更广泛的结构性问题，如竞争性市场和健康的创新生态系统。

第三，需要协调不同地区的新兴监管框架，以有效应对人工智能的全球治理挑战。

第四，人工智能治理应该与维护机构、保护隐私和个人数据安全的措施齐头并进。

最后，治理应立足于《联合国宪章》、国际人权法和其他具有广泛全球共识的国际承诺，如可持续发展目标。

相较于该文的原则性表述，该文作者之一、斯坦福大学网络政策中心政策主任和网络和平研究所所长玛丽耶·沙克（Marietje Schaake）同日在《外交事务》（Foreign Affairs）网站发表的文章，更加清晰地阐释了她关于人工智能全球治理的主张。

玛丽耶·沙克写道，政治领导人正争先恐后地对人工智能的进步做出回应。随着从市场营销到医疗保健再到武器系统的应用，人工智能有望在整个社会和世界各地产生深远影响。生成式人工智能的最新发展，即ChatGPT等应用程序中用于生成文本和图像的技术，激发了人们的兴奋，也引发了越来越多的担忧。学者和政治家都对这项技术可能导致人们失业、危害民主和侵犯公民自由的方式敲响了警钟。所有人都认识到，迫切需要政府监管，确保人工智能应用在法律范围内运作，并保障国家安全、人权和经济竞争。

从市政厅到国际组织，对人工智能的监督都至关重要。在2023年的最后几个月，新举措的步伐加快了。例如，七国集团在10月底发布了一份针对人工智能开发人员的非约束性行为准则。11月初，英国主办了人工智能安全峰会，来自28个国家的代表团承诺合作管理人工智能的风险。美国总统拜登在发布了一项促进“安全、可靠和值得信赖”的人工智能的行政命令几周后，在中美元首会晤中同意就人工智能展开政府间对话。12月初，欧盟立法者就《人工智能法案》达成了政治协议，这是一项开创性的法律，旨在降低人工智能技术的风险，并制定全球监管标准。

尽管人们普遍认识到需要引领人工智能驱动的未来，但在国际合作与协调方面，政治领导人往往求助于过去的工具。对人工智能进行全球监督的最突出的建议是试图复制为其他目的而建立的多边机构：例如，联合国秘书长古特雷斯和其他人呼吁建立一个“人工智能领域的国际原子能机构”（IAEA for AI），该机构将以国际原子能机构监督核技术的方式监督人工智能。上个月，英国主导的人工智能安全峰会再次呼吁成立“人工智能领域的政府间气候变化专门委员会”（IPCC for AI）。

尽管借鉴多边主义以往成功经验的冲动是可以理解的，但简单地引入一个新机构并不能解决人工智能治理的难题。与会者在人工智能安全峰会上做出的承诺，类似于七国集团的指导方针，仅仅是承诺。在缺乏约束性措施的情况下，企业只能自行管理。投资者和股东可能更喜欢这种结果，但政治家和公民不应幻想私营人工智能公司会为公众利益行事。OpenAI最近的惨败就是一个很好的例子：董事会与执行领导层就公司产品的社会影响发生冲突，这表明管理人工智能风险的内部机制非常脆弱。

国际监管机构只有在制定了可以让公司和国家政府承担责任的规则时才能取得成功。政治领导人应该首先敲定这些法律的前提条件和内容，然后才能让合适的机构来监督监管。人工智能的快速发展、不透明性和不断变化的性质使其与以前的技术有本质的不同，它将需要新形式的国际监督。立法者不应该因挑战的范围而气馁，而应该把它当作创新的灵感。

玛丽耶·沙克批评道，急于成立全球监管机构是本末倒置的做法。并表示，现有国际机构的成就或许值得效仿，但它们的监督模式并不容易适用于人工智能。以国际原子能机构为例，这个由联合国领导的监督机构成立于1957年，但直到1970年《核不扩散条约》生效后，该机构才能够有效地监督参与国的核武器计划并维护安全标准。目前关于人工智能治理的讨论忽略了《不扩散核武器条约》的关键作用。政治领导人渴望建立具有监控能力的以人工智能为中心的机构，但关于人工智能治理的可执行条约却遥遥无期。几个主要国家在国内立法方面几乎没有取得进展。

英国首相苏纳克，和包括谷歌前首席执行官埃里克·施密特在内的其他人都从政府间气候变化专门委员会那里获得了灵感。该机构综合了气候变化的科学研究，并主办了年度缔约方会议峰会。甚至在英国举行首届人工智能安全峰会之前，新的“IPCC for AI”计划就强调，该机构的职能不是发布政策建议。相反，它会定期总结人工智能研究，强调共同关注的问题，并概述政策选择，而不直接提供咨询。这一有限的议程并不包含一项具有约束力的、可以提供真实的保护并约束公司权力的条约的前景。

建立既能“制定规范和标准”又能“监督遵守情况”的机构，而不同时推动国家和国际规则，往好里说是天真的，往坏里说是故意的自私自利。企业一致支持非约束性倡议，支持后一种解释。OpenAI的首席执行官山姆·奥特曼响应了“IAEA for AI”的呼吁，并警告称，即使他的公司向公众传播同样的技术，人工智能也存在风险。施密特向人工智能创业公司和研究企业投入了大量资金，同时还为美国政府提供人工智能政策建议，强调企业的自我治理。利益冲突的可能性突显出，需要有法律上可执行的护栏，优先考虑公众利益，而不是为科技公司底线服务的松散规范。

将国际原子能机构或政府间气候变化专门委员会作为模型也有可能忽视人工智能的新颖性及其监管的具体挑战。与由政府控制的核武器不同，人工智能的能力集中在少数几家将产品推向市场的公司手中。政府间气候变化专门委员会作为一个独立研究小组的职能，将有助于人工智能的复制，特别是考虑到公司提供的技术信息的不透明性。但促进研究只是制定规则的一步，而有效的人工智能治理需要规则。

没有人能知道人工智能在未来会有什么能力，所以管理它的政策和机构必须设计成适应性的。首先，监管机构必须能够执行现有的反垄断、反歧视和知识产权法。各国政府和多边组织还应就人工智能背景下对基本原则的解释达成一致，例如尊重人权和《联合国宪章》的条款。随着人工智能在日常生活中扮演越来越重要的角色，许多基本问题缺乏明确的答案。政策制定者必须界定数据收集何时侵犯隐私权，当算法做出相应决定时应该提供哪些信息，若人工智能服务提供歧视性待遇，人们如何寻求补救措施，以及当人工智能驱动的“表达”包括只需点击鼠标就能大量生产致命病毒的成分时，可能需要对自由表达进行哪些限制。

虽然国际倡议最近受到很多关注，但有效的多边主义取决于有效的国家法律。如果美国国会为美国人工智能公司设置法律护栏，可能会为其他国家树立榜样，并为全球人工智能监管铺平道路。但由于分歧严重的国会通过有意义的法规的可能性很小，拜登政府解决人工智能问题的工具更加有限。到目前为止，与世界上许多政府一样，美国政府已经确认人工智能受现有法律的约束，包括消费者保护和非歧视性规则。然而，监管机构将如何运用这些法律，目前还不清楚。美国政府需要发布关于人工智能技术必须遵守现行法律的指导方针，并确保监管机构拥有执行这些法律的技能和资源。例如，有能力确定酒店是否根据肤色拒绝客户的机构，将需要一套不同的能力来识别酒店预订网站上的歧视性算法。

在某些领域，现有法律已经适用于人工智能技术，并取得了初步的成功：向自动驾驶汽车制造商寻求赔偿的原告已经利用产品责任法来提起诉讼。但进一步发展司法判例可能会被证明是困难的。监管机构通常无法访问公司的数据和算法，这使他们无法识别侵犯隐私权、消费者保护或其他法律的标准的行为。如果他们要有效地管理人工智能，这些对专有信息的限制必须放松。当公民遇到人工智能产品和系统时，他们也需要有关其法律的权利的指导。

与美国相比，欧盟将很快处于有利地位，与其他国家就人工智能的约束性规则进行接触。欧盟的《人工智能法案》预计将于2026年生效，其中包含减轻人工智能应用带来的广泛风险的措施，包括面部识别系统和用于推断某人犯罪可能性的工具。作为西方世界同类政策中最全面的政策，欧盟法律将成为多边讨论的起点，并可能成为其他国家国内立法的模板。然而，《人工智能法》没有涉及人工智能在军事领域的使用，因为这一政策领域是为欧盟体系中的国家政府保留的。欧盟的市场份额使其在国际谈判中具有重要的影响力。但如果欧盟27个成员国在军事应用上采取不同立场，它们的分歧将削弱欧盟推动全球人工智能标准的能力。

文章认为，人工智能全球治理需要建立共识。政府希望对人工智能做些什么，但他们目前的努力往往缺乏方向和力量。在设立新的国际机构之前，官员们应该努力起草这些机构将用来进行监督的法律。各国政府应围绕几个关键点建立国际共识。首先，人工智能必须是可识别的。随着技术的进步，越来越难以知道客户服务热线上的声音、文本、视频或音频信息是来自人还是计算机。随着人工智能在自动化决策系统中的应用，人工智能越来越多地决定着人们获得就业、贷款和教育机会的能力。每当公司将人工智能用于这些目的时——尤其是生成式人工智能，其输出通常很难被识别为合成——他们应该有法律义务披露其作用。为了进一步减少欺骗性或误导性的内容，立法者应该要求，一旦出现可靠的技术，政治领导人的真实信息就应被打上水印。

各国还必须限制使用人工智能武器，包括网络武器。国际法在网络行动中的应用已经是一个模糊的领域，人工智能增加了新的复杂性。这项技术增加了网络攻击者的优势，他们可能会使用生成式人工智能快速扫描大量软件以寻找漏洞。一项国际协议禁止将人工智能武器化的某些目标，比如网络间谍活动或在另一个国家的竞选活动期间传播虚假信息，这将设置必要的护栏，并促成最佳实践。

最后，人工智能监管不能脱离环境保护工作。用于数据存储和处理的大型数据中心需要大量的电、水和其他资源，这些站点的环境成本正在增加。如今，各家公司只对自己的用水和用电情况给出模糊的估计。一个由各国政府监督的单一全球报告标准将使学术研究人员和记者能够获得环境数据。这将使公众能够仔细审查人工智能公司对自然资源的消耗，并使政策制定者能够实施有效的限制。

玛丽耶·沙克在文章的最后展望了人工智能全球治理的合作前景。《七国集团行为准则》和其他人工智能治理建议并不是多边合作的首次尝试。全球人工智能伙伴关系（GPAI）成立于2020年6月，由经济合作与发展组织（OECD）支持，召集了来自25个国家的研究人员和从业者，分享他们的研究成果并讨论合作领域。由于其成员的地域限制和缺乏具有约束力的协定，全球人工智能伙伴关系经常被批评为既没有代表性也没有效力，它的进展缓慢，突显了在一个政治分裂的世界里达成全球规范的难度。当各国加入一个新的国际机构时，规范不会简单地到位。相反，人工智能治理的最佳实践可能会以两种方式之一发展。首先，敌对的政府，将在共同关心的有限领域找到共同点，比如人工智能的军事用途。但是，如果地缘政治对手无法克服分歧，志同道合的国家将需要通过巩固解决人工智能监管具体层面的初步协议来引领潮流。

玛丽耶·沙克最后写道，无论如何，在国际人工智能监管方面取得真正进展，需要的不仅仅是让主要国家的政策制定者坐在同一个房间里。在对国际原子能机构的介绍中，学者伊丽莎白·罗利希（Elisabeth Roehrlich）指出了使核保障措施有效的两个基本要素：对该机构及其成员国具有约束力的法律协议，以及监督遵守情况的技术工具。人工智能的保障措施也需要新的和更新的法律，以及执行这些法律的资源和技术能力。今天，许多政治和企业领导人正试图直接跳到最后，把重点放在总体机构上，而不是使其发挥作用的政策。历史是宝贵的指南，但不是捷径。

亚历克斯·巴蒂归来

12月14日，一位名叫亚历克斯·巴蒂（Alex Batty）的17岁英国少年被发现独自走在法国比利牛斯山一带的图卢兹，而他正是六年前一起失踪案的当事人。2017年，小巴蒂和母亲梅兰妮·巴蒂（Melanie Batty）以及外祖父大卫·巴蒂（David Batty）自英国前往西班牙旅行，随后他们一并消失在家人和公共视野中。在亚历克斯奇迹般归来之前，巴蒂一行三人最后一次被目击到行踪，则已经是在六年多前的西班牙马拉加港口，那一天正是他们原本计划启程回英国的日子。

当地时间2023年12月15日，法国图卢兹，一名6年前在西班牙失踪的英国男孩亚历克斯·巴蒂日前在法国山区被人发现，健康状况良好。英国警方正牵头展开相关调查。

小巴蒂失踪之后，他的外祖母苏珊·卡鲁阿纳（Susan Caruana）悲痛欲绝。虽然小巴蒂和母亲一同出行，但外祖母实际上才是他的法定监护人，既不是梅兰妮也更不可能是苏珊的前夫大卫·巴蒂。也正因如此，梅兰妮·巴蒂及她的父亲大卫如今依然因为小巴蒂的失踪案被列为嫌疑人而遭到通缉。在2018年，苏珊·卡鲁阿纳就曾接受采访表示，梅兰妮正试图带着小巴蒂过上一种另类的游牧生活，而不是让他正常地去上学。在巴蒂失踪后，她还怀疑他是被母亲和外祖父带到了与西班牙隔海相望的摩洛哥，并在那里的“灵修社区”（spiritual community）生活着。据卡鲁阿纳所述，女儿和前夫两人都有着不同于常人的信仰，同时对于主流生活方式保持质疑，也因此不愿意把小巴蒂送去正常的学校就读。

在小巴蒂在法国被目击到之后，英法两国警方也很快取得联络，并确认了亚历克斯·巴蒂的行踪。发现小巴蒂的当地司机接受采访的时候称，他看到巴蒂时，后者宣称自己已经在比利牛斯山里走了四天，但并没有说自己是从何处出发的——据信，比利牛斯山区长期以来被认为是很多追求另类生活方式的人们的好去处，那里也有着不少供游牧者居住的零散社区。司机后来询问了小巴蒂的姓名，并在网上搜索之后得知他是一名失踪人员，于是抓紧联系法国当局。小巴蒂则借助司机的Facebook账号找到了自己的外祖母，并给她发了一条信息，写道：“你好，外婆，是我，亚历克斯。我在法国图卢兹。我真的希望你收到这条消息。我爱你，我想回家。”

在英法两国政府的协助下，亚历克斯终于在近日回到了英国，并接受了英国媒体的采访。对于自己为何要脱离游牧式的灵修社区生活，毅然选择重回英国，小巴蒂表示，他意识到了带着自己四处游居的母亲梅兰妮或许是个伟大的人，但却不是一个好妈妈。据小巴蒂所述，梅兰妮反对政府，也是新冠疫情大流行期间反对疫苗接种的一员，平日里她三句话不离“体制的奴隶”这一口头禅。在得知母亲要带他搬到芬兰后，亚历克斯下定决心要离开她，并回到正常的生活，因为他不想继续这样四处流浪，既交不到朋友、没有社交生活，也不能去上学，这在小巴蒂看来，对他自己的未来生活并非什么好事。为此他和母亲大吵一架，最终选择离开。

但在离开的细节上，亚历克斯先对外界撒了谎。就像前文提到的，小巴蒂在比利牛斯山被当地司机发现时，宣称自己已经走了四天四夜，但实际上这只是他编出来的一个说辞。小巴蒂清楚自己的母亲并非自己的法定监护人，也明白母亲和外祖父在通缉名单上，为了掩盖他们的行踪（尽管他也认为母亲被警方找到是迟早的事），他只好编了个说法，称自己是在山中走了太久迷路了——其实他清楚地知道自己要到一个有领事馆的地方去。实际上，巴蒂一行三人最近很有可能一直就居住在法国南部。而近来关于这起失踪人口回归的案件，又出现一个新疑点：小巴蒂宣称自己的外祖父大卫在六个月前去世了，但在法国南部的拉巴斯蒂德（la Bastide）这个小村庄附近，却有不少民众宣称自己见到过长相酷似大卫、自称叫“扎克”（Zach）的男性。人们怀疑，大卫·巴蒂六个月前已经去世这一消息，同样是小巴蒂编造的谎言，为的是掩盖外祖父的行踪，避免这位通缉犯被警方逮住。

尽管这是一起目前看来结局尚属令人欣慰的失踪案件，亚历克斯·巴蒂和外祖母在西方圣诞节前的团聚也令人动容，但因为小巴蒂的谎言，一切又变得疑点重重。此外，小巴蒂的母亲所操持的信仰和政治立场，也使人们注意到了在主流的、“正常的”生活方式之外，那些对制度、政府极度不信任的人们，是如何想方设法寻求一种另类的、近乎游牧的非主流生活方式的。从小巴蒂口中，我们得知梅兰妮·巴蒂不仅反对新冠疫苗接种，而且信仰无政府主义，不愿意生活在整个制度机器之下。而像她这样的人远不在少数，这也是为何她和小巴蒂能够在摩洛哥，法国，以及最终可能只有她单独前往的芬兰，在那里的灵修社区展开这种游牧式的生活。

BBC也借此机会报道了比利牛斯山一带的游牧居民们的生活方式。据当地民众表示，在法国南部的基扬（Quillan），似乎存在着两个平行的生活空间，一个是有着酒馆、教堂和乡村广场的普通欧洲小镇，另一个则是一个“国际化”的游牧人群家园：后一处遍布着各式各样希望从“正常的”生活中抽身出来的人们，他们的生活构成就像一个个公社，并不拒绝和那个“正常”的小镇基扬居民来往，甚至会从山区里出来，到居民区的餐厅品尝当地美食。而在这些公社般的游牧人士聚居地，随处可以看到毒品的踪迹，当地人表示那些公社成员几乎都吸毒成瘾。

如今，比利牛斯山一带的山区游牧公社，已经成为不少欧洲年轻人选择退出大众主流的生活方式的一个解决方案，他们来到这里过着自己想要的生活，与大自然亲近。一位26岁的公社游牧者在受访时更表示，在公社或其他灵修社区里，人们分享一切，并且“每个人都有自由的思想。”她更认为，我们可以选择过上一种尽可能简单的生活，而不是生活在各种看似合理、正常的陈规琐事之中。另一位受访的游牧者则清楚表明，这种生活方式是他眼中的幸福，但对大多数人来讲依然是不可接受的。而在这则报道中我们也不难发现，亚历克斯·巴蒂并不是孤例，因为也有一位母亲带着自己9岁的儿子来到比利牛斯山区的灵修社区，此前她已经独自在家养育孩子9年，而现在是他进入这所“另类学校”的第一个年头，他需要学会如何在大自然中生活，建造房屋，以及打铁。在这位母亲看来，这种生活方式并不意味着和既有的世俗生活对立，因为在她眼中，世界正在发生变化，与其说放下常规来到山野中是逃离，倒不如说是一种回归。

但就像有关部门所说的，这种生活方式对于亚历克斯·巴蒂这样渴望回归正常生活的人来讲，其产生的心理影响很难估量。也有越来越多的人担心，散居在比利牛斯山中的游牧者们，最终会有不少人沦为邪教的受害者。或许这个世界的确正在发生巨大的变化，人们的精神生活也出现了一条条通往不同目的地的歧路。