首页 > AI资讯 > 最新资讯 > “需设好‘紧箍咒’!”海内外四大院士如何看大模型?

“需设好‘紧箍咒’!”海内外四大院士如何看大模型?

新火种    2023-09-11

在9月7日举行的第二届外滩大会上,不仅云集了来自全球的行业大咖们,同时也是这些大咖们思维和观点的一次集中的输出,而针对如今火爆的大模型,大咖们又如何看待呢?

中国科学院院士、复旦大学副校长张人禾:

“AI时代”下要进行“有组织科研”

科学智能已经成为人工智能的重点发展方向,推动跨学科的交叉研究,激发创新突破。加速科技创新与产业变革的深度融合,推动产业转型升级。科学智能是推动科学研究范式变革、实现科技原始创新策源的利器,拥有引爆产业创新核爆点的巨大潜能。国内科学智能也迅速发展,相继涌现出大量的科学领域大模型,但仍处在起步阶段。面对 “AI时代”的来临,“单打独斗”已不适应大科学时代的科技创新,要进行“有组织科研”,最大的优势在于布局建设大平台。

中国科学院院士何积丰:

应对大模型的安全问题,需设好“紧箍咒”

大模型的安全问题主要是在未经同意的情况下,收集、使用和泄露个人信息。隐私问题既可能发生在训练过程,也可能发生在使用过程中,而大模型的生成能力则让“隐私泄露”的方式变得多样化,造成隐私保护更加困难。为了应对这些问题,我们需要大模型“对齐技术”。“对齐(alignment)”是指系统的目标和人类价值观一致,使其符合设计者的利益和预期,不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空,“对齐”就是唐僧的紧箍咒。有了紧箍咒,就可以保证技术不会任意使用能力胡作非为。

北京智源人工智能研究院顾问、美国国家工程院外籍院士张宏江:

大模型就好比是人工智能时代的iPhone时刻

“iPhone时刻”是2007年,只有当iPhone发布了以后,我们才迎来了移动互联网的黄金15年。这15年我们看到它带来了产业的变革、产业的革命以及一系列的应用和新的平台。我们相信这次大模型也一样带来AI时代的产业变革。AI过去的发展经历了三个周期,在大模型发布之前实际上是第三个周期的低谷,大模型在过去九个月,掀起了新的浪潮。大模型带来的影响一定会至少十年,像互联网平台一样,而大模型本身会成为平台,不再是简单的模型,这个革命不是简单的一种技能或者简单生产效率提高的工具,而是真正平台性的革命。

美国科学院、美国工程院院士迈克尔·乔丹(Michael I.Jordan)教授:

AI不会替代人

ChatGPT对它写的内容确定吗?ChatGPT完全无法回答上述问题,但人类则非常擅长处理类似的问题,擅长沟通以及应对不确定的信息。AI的本质是集体,而不是个人,AI也不会替代人。ChatGPT没有办法对不确定性进行量化,不会有一种所谓的超级电脑会替代人,应该把技术看作是一个工具来赋能人类,我们需要建立一个协作式、去中心化的系统来实现集体智能,并设计一个机制使之公平、稳定、可扩展。我们在日常生活中经常遇到不确定性,让去中心化的系统能够帮助我们更好、有效地应对日常和世界当中的不确定性,这才是我们亟待解决的问题。

南方+记者 叶丹

【作者】 叶丹

【来源】 南方报业传媒集团南方+客户端

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。