本报记者 刘慧

追踪科技股的纳斯达克100指数，2023年迄今为止上涨约47.5%。受关注的全球人工智能企业除了谷歌、Ope? nAI、苹果，还有微软、亚马逊、IBM、脸谱、特斯拉、NVIDIA、DeepMind等，中国的人工智能公司包括百度、腾讯、阿里巴巴、京东等。创投市场金融数据分析公司PitchBook的数据显示，2023年AI相关初创公司的投资金额达到约687亿美元。但在经历了OpenAI人事“巨震”后，业界也在思考，科技公司如何在公共利益与商业成功之间实现平衡？如何完善科技公司的公司治理？确保AI朝着善意的方向前进法国达索系统高科技行业全球副总裁Stéphane SIREAU在接受中国经济时报记者采访时表示，过去十多年，技术在不断加速发展，特别是AI技术加速了世界的改变，但我们要非常小心地应对，要让AI技术更可靠、更安全地应用到工业平台等，让AI技术给企业带来价值。南开大学讲席教授、中国公司治理研究院院长、中国上市公司协会专家顾问委员会副主任委员李维安告诉中国经济时报记者，AI技术是一把双刃剑，在改变生产方式的同时，也带来风险挑战。尤其是，ChatGPT的出现，标志着人工智能技术新的里程碑，为人类提供了智能化和个性化的服务方案，但也引发人们对人工智能技术潜在风险和伦理问题的担忧。

决策者的出发点是实现安全和造福全人类的美好愿景还是商业化目标，决定了人工智能是“向善”还是“向利”发展，这一道德选择将深刻地塑造AI演进，不仅影响着技术的用途，还直接关系到人类文明的命运。“我们必须认真引导AI的发展，考虑数据隐私、公平性、安全性等多个因素，以确保朝着善意的方向前进。”目前，推进AI治理和AI企业治理已成为全球化趋势。2023年11月1日，首届全球人工智能安全峰会在英国布莱切利庄园开幕，由包括中国在内的与会国共同达成的首个全球性人工智能声明《布莱切利宣言》正式发表，同意通过国际合作，建立人工智能监管方法。2023年10月30日，美国白宫发布拜登签署的最新行政命令——《关于安全、可靠和可信的AI行政命令》，以确保美国在把握AI的前景和管理其风险方面处于领先地位。该行政令包含建立AI安全新标准、保护美国民众的隐私、促进公平和公民权利等8个方面的目标。

李维安认为，应加快推动建立AI企业内外部治理体系。首先，推动AI企业董事会建设，与企业AI相关的事项要进入董事会决策，成为企业的一个决策方向。在董事会设立专门的伦理委员会，并在公司章程中对AI伦理委员会的构成及其运作进行明确，判断和把握技术应用的方向。设置首席人工智能官或首席伦理官，以牵头制定专门的人工智能发展战略。其次，建立内部数据合规审查机制和内控机制，确保在研发和数据使用中安全合规。设置合规部门，建立对数据安全问题的风险评估和防范机制。再次，实施全面的人才培训计划，使管理人才和研发人员了解人工智能技术的伦理和社会责任，增强他们对公司价值观的理解，培育出一个能够在技术和伦理之间取得平衡的企业文化。

最后，全面升级治理体系，强化绿色治理和应急治理。AI企业治理应突破单纯追求经济效益最大化的传统企业治理边界，而应更多地承担企业作为社会资源配置平台的社会责任，树立推动社会可持续发展的社会化目标。Ant hr opic为何设计“长期利益信托”治理结构从OpenAI离开的员工2021年创立了另一家AI独角兽Anthr opic，同样在公司章程中承诺“优先考虑帮助人类，同时实现利润最大化”。但Ant hr opic对外称，公共利益与商业成功或股东回报并不矛盾，两者往往有很强的协同作用。为此，Anthr opic设计了一个名为“长期利益信托”的治理结构：公司由董事会监督。董事会选择并监督领导团队（特别是CEO），而领导团队负责雇用和管理员工。股东拥有选举、罢免和起诉董事的权利，而董事会成员并不具有。为了让董事的激励措施与股东利益结合，董事的薪酬通常由股票形式支付。为了监督董事会的决策是否符合全人类利益，Anthr opic外设一个信托机构对董事进行监督。信托机构由5名没有经济利害关系的独立受托人组成，有权决定董事会的多数席位。

李维安表示，作为人工智能领域的创业公司，在初始创立的时候，公司结构比较精简，但是随着公司的不断发展壮大，治理结构和机制的弊端就会暴露出来，因此必须要完善公司治理体系。Anthr opic同样将人工智能安全作为目标，但与OpenAI不同的是，Anthr opic将公共利益与商业化的目标并列而不是对立，期望在组织内实现协同发展，而不是通过单独成立一个子公司实现差异化的治理目标。基于此，Anthr opic设计了一系列制衡机制。李维安表示，在董事会的治理机制上，Anthr opic的公司章程规定，公司由董事会监督，董事会选择并监督管理层（尤其是CEO），而CEO则负责雇用和管理员工。但董事会不是拥有至高无上的权力，为了能够使董事会与股东的利益相一致，Anthr opic规定，董事由股东选举产生，并可由股东罢免。董事通常以公司股票的形式获得报酬，保障董事和股东的利益相一致。最重要的是，选举、罢免和起诉董事的权利完全属于股东，这样股东会对董事会起到了监督和制衡的作用。“从公司治理机制来看，董事会代表股东的利益，但是否会对公众等利益相关者负责，成为大家比较关心的问题。”李维安表示。在他看来，Anthr opic通过设立信托机构让董事会平衡公共利益与股东价值最大化的目标。

长期利益信托机构由五名在人工智能安全、国家安全、公共政策和社会企业方面具有背景和专长的受托人组成。最初的受托人由董事会选出，未来的受托人将由受托人投票选举产生。以此保障这个机构能有足够的独立性，以平衡公众等利益相关者利益。此外，Anthr opic在C轮融资结束时，创建了一个新的由信托机构独家持有的股票类别（T类）。T类股票授予信托公司选举和罢免一些Anthr opic董事会成员的权力。同时，Anthr opic还设立了一个新的董事席位，将由C轮融资和随后的投资者选举产生，以确保董事会中能够有投资者的声音，这一点和OpenAI的设计完全不同。Anthr opic还对这样的治理机制设计了一个改进流程，在实践中逐渐完善。李维安表示，可以看出，Anthr opic通过信托机构和股东会对董事会的决策行为进行监督和制衡。这样的机制设计试图保障董事会在追求股东利益的同时，兼顾安全和公众利益。在这样的治理结构下，治理主体的议事规则、决策流程等机制的完善就显得格外重要，是能否发挥治理有效性的保障。同时，治理主体的增加，信息沟通链条的延长，所带来的信息不对称问题也会成为治理隐患，需要加强信息沟通机制和渠道建设，确保信托机构、股东等及时了解公司内部实际情况，减少代理问题的发生。