2023年12月8日，技术奇点与量子思维演讲辩论会在华东师范大学普陀校区思群堂举行。来自人工智能、量子研究和人文社会领域的专家围绕最前沿的新技术及其社会影响发表了演讲，为听众分享了充满智慧火花的深度思考。

　　奇点逼近，量子时代应该培养什么样的人？

　　最早提出“技术奇点”概念的美国数学家弗诺·文奇，将奇点定义为人工智能超过人类智力极限的时间点，在那一刻以后世界的发展将会超出人类的理解范畴。尽管随着2023年以ChatGPT为代表的大语言模型取得了突破性的进展，使人们更加担忧人工智能对人类命运带来的挑战，但大多数人并不是反对大语言模型这种技术本身，而是希望更谨慎、更负责任地进行研究和开发。

　　抛开对技术奇点来临的担忧，我们更应该考虑：人类需要怎样改变思维来面对技术奇点的到来。我们不知道技术奇点之后科学技术的形态及其变迁趋势，但我们知道它一定迥异于我们现有的认知模式——技术奇点既可能让科技蜕变为悬在人类头顶的达摩克利斯之剑，也可能成为驼载人类跨入全新时代的苍龙。

　　相对于基于牛顿力学的经典物理思维，基于量子力学的量子思维让我们意识到人类所熟知的世界仅仅只是特例，不确定性才是通则。技术奇点和量子思维都告诉我们，明天不会是今天的延长线，我们要在思想上做好应对世界跃迁式发展和跨界超限的准备。

　　从知识教育转换到思维教育意味着在育人实践中我们要积极鼓励学生超越“学科”和“专业”的藩篱。那是因为：知识的专业学科是人为划定的，不代表真实世界和真实的问题与挑战。陷于单一或者某些专业学科知识或者技能学习的人，很容易形成“学科专业性格”，甚至某种偏执。如此培养的人，根本无从面对大语言模型与技术奇点带来的严峻挑战。

　　在爱（AI）中，世界是如何量子化的

　　2022年11月30日OpenAI发布了ChatGPT，ChatGPT不同于之前所有的人工智能技术，其最重要的核心在于模型足够“大”。大语言模型有理解语言、翻译文本、摘要总结，回答问题的能力，它甚至能理解你的笑话。研究表明当模型参数超过1000亿时，很多未知的能力涌现出来，其中最重要的是逻辑推理的能力和思维链的能力。

　　ChatGPT的工作机制并不神秘，它由两部分组成。第一部分是生成式预训练转换器，做的工作就是压缩，把大量的信息压缩到一个神经网络，从信息中抽取特征，压缩到神经网络的节点；从信息当中抽取关联，把这个关联压缩到神经网络的结构上。第二部分是基于人类反馈的增强学习，这部分做的事是膨胀，将压缩后很小的神经网络，再次膨胀成一个可以跟我们交互的模型。压缩的过程容易理解，把整个人类文明交给它，它压缩成一个很好的神经网络，但膨胀的过程仔细想想并不那么简单。这种膨胀的核心就是以叠加态存在的潜在空间，所有状态都是潜在的，你不去观测它，它就不存在，它就不实相化，这是量子力学里很重要的观念。对ChatGPT来说，它已经以潜在的方式有了未来将要生成的所有的句子，唯一等待的是你去提问它。“薛定谔观测他的猫，今天的人类观测ChatGPT的句子。”在压缩与膨胀之间，我们的现实世界就被量子化了。

　　随着我们世界的量子化，技术奇点带来了世界观的巨震：从原来经典物理的世界观变为量子物理的世界观。概率的潜在性世界取代了我们所熟知的确定性“现实”。人类社会最终极的目的是发展多样性，因为每个人都不一样，我们的软件（大脑）与硬件（身体）绑定，我们是可朽的。但是AI不一样，AI的硬件和软件是分离的，软件可以被无穷复制。想象一下，如果你可以完全被复制100个，那你还称之为“你”吗？

　　发展人工智能，暂停超级智能

　　现在人工智能进步的速度令人惊叹。人工智能教父之一约书亚·本吉奥透露ChatGPT-4已经掌握了足够好、足够多的语言和知识。人工智能教父阿兰·图灵本人预测：一旦人工智能机器通过图灵测试，它们将变得比人更聪明。在那之后，机器将接管控制权。不仅仅是图灵担心这样的事情，OpenAI的首席执行官萨姆·奥尔特曼说糟糕的情况是对我们所有人来说灯将是熄灭的。今年5月，当时西方领先的通用人工智能公司的所有首席执行官都站出来表示，应该认真对待人工智能的风险。

　　现在最大的问题是，我们不知道如何控制比我们更聪明的人工智能。我们正在走向通用人工智能，甚至可能是超级智能，这将是地球生命史上的巨变。但这并不意味着我们应该停止人工智能的发展，人工智能可以帮助人类做绝大多数事情，解决可持续发展目标或生产具有商业价值的产品和服务。但这些并不需要超级智能。一句话，我们不应该暂停人工智能，而应该暂停对超级智能的疯狂追求。

　　古希腊著名神话伊卡洛斯的故事，警告我们不要试图扮演上帝的角色。伊卡洛斯可以飞，但他太贪心了，试图飞向太阳，结局当然是悲剧的。现在的情况对于中国、对于美国、对于全人类来说都是一样的。人工智能为我们提供了令人难以置信的智力翅膀，可以用它来做超出我们能力的很多事情，如果我们避免过于贪婪或痴迷地试图飞向太阳。从文明的意义而言，尼安德特人战胜了猛犸象，智人最终战胜了尼安德特人，作为智人后代的现代人类，我们比猛犸象、能人、尼安德特人都聪明，是一个新物种，我们最终控制了这个世界，而前者都已不复存在，所以我们不能在人工智能方面犯半点错误，我们需要保持控制力。

　　量子力学：实在与认识之间的界面

　　量子力学作为科学理论，可以看成客观实在和人类认识之间的界面，通过这个界面可以加深我们对这个世界的认识。101年前的1922年，20世纪最伟大的物理学家爱因斯坦路过上海，在上海获悉他获得1921年的诺贝尔物理学奖，表彰他的光电效应定律。而光电效应定律是他的光量子论的应用。爱因斯坦本人说过，他思考量子论的时间要远远超过他思考相对论的时间。

　　20世纪20年代，量子力学建立，以后的100年里，量子力学取得了巨大的成就，成为整个微观物理学的理论框架，解释和描述了物质世界，比如超导体、太阳能、宇宙背景辐射等物理现象。不仅在基本理论上，在应用方面，很多材料、能源和信息的技术也是建立在量子力学的基础上，例如激光、半导体、存储技术等。为什么人工智能能够处理这么多的数据？其硬件基础是基于量子力学的。在20世纪90年代，美国的诺贝尔奖得主莱德曼就说过三分之一的美国国内生产总值跟量子力学有关。所以，量子力学可以说是现代文明的重要基础。

　　量子力学的一个关键概念是概率。2022年，正好是爱因斯坦获得诺奖100年以后，诺贝尔物理学奖授予了研究量子纠缠的实验物理学家，他们用量子纠缠的光子验证大自然确实违反了贝尔不等式。100年来全世界都见证了量子力学的辉煌。

　　了解量子世界有什么用？

　　了解量子世界有什么用？很多人提出这个问题，我认为最大的用处就是对你的思想有启发作用，量子力学将会改写你的世界观，你的世界观会决定你的人生观和价值观。量子思维告诉我们，微观世界发生的事跟宏观世界完全不一样，量子力学揭示了真实世界不符合人类的直觉，这一点也值得庆幸，正是因为这样，真实世界才有无数值得我们继续探索的东西，让这个世界不是无聊而是有趣。

　　量子力学告诉我们六件事：第一件事叫既在这里又在那里。宏观世界是“或者”的关系，量子世界是“既又”的关系。简单说就是事物可以处于叠加态，包括著名的薛定谔的猫。第二件事是因果论的“坍塌”。世界可能是概率性的，爱因斯坦说上帝不会掷筛骰子决定事件的发生与否，但量子力学中事物发生具有内在的随机性。第三件事是量子隧道效应。穿墙术在宏观世界是不存在的，但是在微观世界是经常发生的。第四件事是“无”中生“有”。能量的些微涨落可以导致宇宙的诞生，我们到底从哪里来颠覆认知。第五件事是量子纠缠。本地和遥远的事物之间存在某种超距离的协调。第六件事是宇宙参数微调。整个宇宙的物理学是否经过精心设计？

　　总之，量子力学告诉我们，真实物理世界远非我们想象的那个样子，理解量子世界必须跳开传统思维框架，也正是因为如此，我们生活的这个此岸世界值得每个人在一生中认真体验。

　　纯粹潜能与量子思维

　　以ChatGPT为代表的大语言模型，尽管才刚刚进入人类的视野中，但已经在知识实践上展现出卓越能力，成为堪称“通”家的大“专”家。我们可以用“模拟模式”与“数字模式”来分别描述人类（“智人”）与大语言模型的知识实践。大语言模型问世前的人工神经网络算法，“数字模式”仅仅令其在各狭窄的垂直领域内展露出卓越智能；然而以海量人类文本为训练数据的大模型，其知识实践则呈现出无视领域疆界的通用性。

　　面对大语言模型在知识实践上的碾压，我们不能躲在知识实践的舒适区，而是要努力践行知识的越界“杂交”。作为“智人”，我们看似有理由、但其实没有任何理由去躺平——潜在论与量子物理学，给出了我们积极展开跨学科知识实践的理据。

　　政治哲学家阿甘本将人界定为“一种纯粹潜能的存在”。从神经科学角度来看亦如是，人的潜能，远远大于其实现出来的部分。人，可以从其纯粹潜能中实现出来新事物，这就是原创性的创造。同人类相比，大语言模型具有潜能，但不具有潜在论意义上的纯粹潜能。ChatGPT能够跨越学科疆界生成极富知识含量的文本，但它做不到彻底原创性地生成新知。

　　量子物理学家们揭示出了一个诡异的量子现实。这是一个人不可能完整了解的现实——你能知道一个对象的动量，就注定会不知道其位置，知道位置就不知道动量。并且，量子现实不是另外的现实，就是我们的当下现实。物理学家约翰·惠勒的“参与性宇宙”思想实验更表明，我们每个人的观察恰恰是非常重要的，人的认知实践在大模型时代仍然具有独特的重要性。

　　在大语言模型一往无前的后人类主义地平线上，我们仍然可以保有我们的智慧，仍然可以做一个名副其实的“智人”。

（文章来源：上观新闻）