很少会有人认为假钞对金融系统不构成任何威胁。如果你无法信任货币的真实性，买卖就会变得更困难，进而将影响经济。但一位著名作家表示，另外一种危险并没有引起足够多的关注，那就是社交媒体上假冒真人的人工智能机器人。

以色列历史学家、作家尤瓦尔·诺亚·赫拉利在上周说：“现在，在人类历史上首次能够创造虚假的人，人们可以创造出数以十亿计的假人。你并不知道，与你在线交流的某个人是真人还是机器人。”

尤瓦尔·诺亚·赫拉利是《人类简史》（Sapiens）的作者。这本书被比尔·盖茨评价为他最喜欢的书之一。赫拉利在瑞士日内瓦召开的联合国（UN）人工智能惠及人类（AI for Good）全球峰会上发表了这番评论。

他表示：“如果一个社交媒体平台上，不仅有机器人会转发真人发布的推文，还有数以百万甚至十亿计的机器人能够创作在许多方面比人类创作的内容更高级的内容，例如更有说服力或更有吸引力的内容，或者更有针对性地根据你的个性和生活经历量身定制的内容，结果会怎样？如果我们允许这种情况发生，人类基本上就完全丧失了对公共对话的控制权，比如民主政治这种概念将变得完全不可行。”

他警告称“这种情况对社会的危害，相当于假钞对于金融系统的威胁。如果你无法分辨谁是真人，谁是机器人，信任就会崩溃，至少自由社会将不复存在。或许独裁政权可以用某种方式解决这个问题，但民主政体将束手无策。”

“人工智能机器人泛滥”

推特（Twitter）的老板埃隆·马斯克也意识到机器人问题。他在今年3月发推文称“For You推荐流将只推送经认证账户的内容”，他表示，这是“解决高级人工智能机器人泛滥唯一现实的途径。否则这将是一场注定要失败的战争。”

与此同时，OpenAI的首席执行官萨姆·奥尔特曼参与创建了初创公司Worldcoin，为人们提供了借助虹膜扫描设备和加密系统证明他们是真人而非人工智能机器人的途径。该公司宣布在5月C轮融资中融得1.15亿美元。

赫拉利呼吁出台防止“假人”的“极其严格的规定”。

他说：“如果你假冒真人，或者在你的平台上允许假人存在，不采取有效的反制措施，我们或许不会将你处决，但你将面临20年监禁。”

他表示，面对这样的后果，科技巨头们会很快“找到防止社交媒体平台上假人泛滥的方法”。

至于为什么现在还没有这样的规定存在，赫拉利称，到目前为止创造这样的假人“在技术上不可行”。相比之下，伪造货币的行为存在已久，而各国政府均颁布了打击这种行为的“极其严格的规定”，以“保护金融系统”。

赫拉利指出，他并非呼吁出台禁止创建人工智能机器人的法律，而是“禁止让这些机器人以真人的身份出现在公众面前”。他表示，例如，提供人工智能医生是合法的，“可以带来巨大帮助”，但“必须说明它并非人类医生……我需要知道它是真人还是人工智能”。（财富中文网）

译者：刘进龙

审校：汪皓