智能时代的读者：

2023年岁末《经济观察报》约稿，希望以书信形式谈一些和AI（人工智能）相关的岁末感想。一直没有时间动笔，马上就要到截稿日期，即兴遐想一番，希望对读者有帮助。12月14日，2023年《自然》年度十大人物正式揭晓，除了从全球重大科学事件中评选出的10位人物——5位男性、5位女性外，还有1位非人类上榜——美国人工智能公司OpenAI发布的聊天机器人ChatGPT。自2022年11月30日诞生后，ChatGPT就迅速走红，目前其月活用户已突破15亿。中国历史上第一部历史文集是《尚书》，又名《书》，成书于3000年前的战国时期，最早可以追溯到夏、商、周三代，相传由孔子编撰，是儒学经典之一。其中《尚书·无逸》是一篇非常具有说服力、千古难得的政论文章，论述无逸、勤政、爱民乃治国之本。此文是有助于培养人们良好品质的心灵地图，让身心得到陶冶与升华，故得以流传数千年。

今年2月，韩国出版商Snowfox Books出版了一本完全由ChatGPT撰写的图书，书名为《找到人生目标的45种方法》，整本书的写作和翻译仅仅花费了9个小时。现在，AI高速地创作出大量内容，把出版行业打得“措手不及”，许多编辑团队不堪重负。人类即将进入智能时代，人不再是唯一的智能体，AI智能可能会超过人类，如果构建以人为中心的智能时代，让AI服务于人是需要我们认真思考的。具体而言，前提条件是如何让AI能区分人和AI产出信息的差别。AI发展如此之快超出绝大多数人的想象，早在1950年英国计算机先驱艾伦·图灵开始思考如何建造智能机器并测试其智能时，就提出了“图灵测试”的概念，大意是：如果人仅凭文字信息无法区分对方是一个人，还是机器人，那么这个机器就是智能的。

现在，当AI通过“图灵测试”后，我认为还存在一个“逆图灵测试”问题，即：人和机器分别发出一个信息，机器要能判断出信息是人给的还是机器给的，那么这个机器才能独立工作并存在。“逆图灵测试”的目的就是要让机器知道主人是谁，如果机器没有主人，就一定要强制“关掉”它。

如何实现“逆图灵测试”，脑机接口（Brain Computer Interface，BCI）技术是一个很好的技术选项。脑机接口是人机交互的特殊形态。传统的人机交互必须有肌肉组织参加，如键盘、鼠标、语言，否则就没法进行交流。脑机接口可直接从大脑提取信号控制外部设备，替代、恢复、补充或改善大脑的功能。50年前，美国加州大学洛杉矶分校的计算机科学家雅克·维达尔设想，通过放置在头皮上的电极可检测到大脑发出的实时信号翻译后用于控制计算机，首次描述了脑机接口的科学概念与设想。此后，在各国科学家的努力下，脑机接口的概念范畴不断延伸，例如与反馈/调控相结合的脑机交互（interaction），与人工智能相结合的脑机智能（intelligence）。

1993年，著名科幻作家王晋康先生在他的科幻处女作《亚当回归》中描写了人脑植入芯片技术成为第二智能，最终第二智能使人类实际被AI所寄生。可以说，王晋康先生是国内最早关注人工智能的人之一，也是中国最早提出脑机接口科幻思想的人。2019年，马斯克的Neuralink发布了一款可扩展的高带宽脑机接口系统，这一系统在今年已被美国食品药品监督管理局批准开展人体实验。BCI技术被马斯克所接受并扩展，他设想人类依靠BCI可以成为“超人”，能跟ChatGPT之类的AI去交流，克服AI与人类的交流鸿沟，给AI机器人安上缰绳，让它一直带我们“玩”转智能时代。

智能时代的确会存在这样的交流鸿沟，人与人沟通的信息传输率大概是100比特/秒，但机器和机器的信息传输率要大多了，能达到10G以上。马斯克设想，在大脑装一个第三皮层，直接解读我们的思维与AI直接交流，而不依赖于语言。我多次提到“脑机的摩尔定律”，无创脑机接口的传输率大概每十年翻四倍，现在脑机接口的速度是触屏的一半，十年后应该能做到比打字快，大概二三十年后速度就会比语音快了，那时人们就可以不用手指触屏，戴一个耳机，想输出时思考就可以了。未来能到多快我现在不清楚，我希望一直往上涨。所以脑机接口是未来智能时代不可或缺的硬核科技，没有脑机接口的未来智能社会是不好想象的。

我不认为机器能够学会人的价值观，与人类对齐，让AI和人的价值观与利益保持一致。与人类对齐不可能的理由是AI与人有本质差别，人会死而畏死，机器不会死故不畏死。人类的善德，源于远离与死相关的畏惧，如疾病、灾荒、战争等。李泽厚在《说巫史传统》中提出，周朝初期的“德”原本是“君王的一套行为”，“德”是由巫的神奇魔力和循行“巫术礼仪”规范等含义，逐渐转化成君王行为、品格的含义，最终才变为个体心性道德的含义。因此，德是巫术的内化和理性化结果，具有内在的道德、品质、操守，又具有魔法般的神秘力量。

在中国三千多所大学中，清华大学的校训“自强不息，厚德载物”无疑是知名度最高、影响力最大的。那是1914年，在清华大学建校三周年之际，梁启超受邀到清华大学演讲。演讲中，梁启超借用《周易》乾坤两卦关于君子的论述，援引孔子《象传》中对应的两句：“天行健，君子以自强不息。地势坤，君子以厚德载物。”在智能时代，AI可以极大地帮助人实现“载物”，但如何“厚德”只能依赖人们告诉AI，脑机接口无疑是一个优选技术途径。拥有BCI的AI，可以让AI具有与人类同步的良知，让人类继续成为“万物之灵”。

1902年梁启超在《论公德》一文中进一步将“德”分为“公德”与“私德”。“独善其身”者是私德，“相善其群”者是公德。该文开篇指出“我国民所最缺者，公德其一端也”。他提出没有公德是不能组成一个国家的，公德和私德是道德统一体的两个方面。梁启超以爱国的民族主义作为出发点，把个人对群体的自觉义务，特别是个人对国家的自觉义务，看成公德的核心。智能时代，人们如何利用AI的帮助平衡公德与私德是值得思考的问题。

“AI教父”Hinton（杰弗里·辛顿）说，数字智能优于生物智能的进程无法避免，超级智能时代很快就会到来。“中国BCI先驱”高上凯认为，脑口智能让我们更好地与人工智能相处，构建以人为核心的超级智能。未来，超级智能肯定会到来，脑机接口则是人类必备的缰绳。如果没有这个缰绳，人类无法控制住机器人，因为机器人比人类强。当然，机器人什么时候懂得把缰绳解掉，那是另一个问题。如果未来的超级智能时代，人是可有可无的，这时就必须给超级智能按下暂停键。

高小榕

2023年12月

（作者系清华大学长聘教授）