首页 > AI资讯 > 最新资讯 > 清华教授孙茂松、张文宏:ChatGPT是“双刃剑”,科学伦理已刻不容缓

清华教授孙茂松、张文宏:ChatGPT是“双刃剑”,科学伦理已刻不容缓

新火种    2023-11-05

10月26日,科普中国创作大会暨2023中国科普作家协会年会在长沙召开。会上,清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松以《生成式人工智能的特点及其能力边界》为题分享报告。他从ChatGPT的实例出发,介绍了AIGC(人工智能生成内容)所独有的创造性、多样性、个性化等特点,以及可能会引发的一系列科技伦理与治理问题。同时,生成式人工智能技术能够以强大的多模态检索、信息重组等能力完成诗歌写作等任务,启发、辅助人类的同时,赋能新时代科普及科普创作。

清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松以《生成式人工智能的特点及其能力边界》为题分享报告。图/中国科普作家协会

在提问环节,有人问道:“在大模型的加持下,具身智能是人工智能发展的最终目标吗?我们离它还有多远?”

孙茂松回答,具身智能是人工智能未来发展的方向,它将对人类产生深远的影响,对于人类来说,它究竟是好事还是坏事,还需要评估。他指出,ChatGPT的影响主要在互联网和思维上,而具身智能的影响主要在建设上,目前研究具身智能的条件比以往要好得多,使得其研究往前进了一大步,可以应用于工业领域,但要做到让其满足人类需求、取得可喜的突破,仍具有相当的难度,还有很长的路要走。

一位来自河北科普作协的张先生提出:“我们在举办作文比赛时遇到了一个难题,中小学生的家长用ChatGPT帮孩子写作文,传统的查重软件已无法分辨,应该怎么办?”

孙茂松表示,这其实涉及怎么规范使用ChatGPT的问题,一般来说,考试时可以禁止使用电子产品和ChatGPT,从而杜绝这一问题的出现,在日常辅导孩子作业时,可以帮助家长启发思路。

“让ChatGPT写作文它确实可以完成得很好,但做创造性、复杂的创作可能还无法实现。”他指出,任何科技发明和成果都是“双刃剑”,只不过人工智能在这方面显得更极端,好的地方非常突出、坏的地方亦如此,对科技伦理、诚信建设提出了一定的挑战,所以需要人为介入去监管。

清华大学人工智能研究院教授、欧洲人文和自然科学院外籍院士孙茂松。图/中国科普作家协会

张文宏在会上表示赞同,他称,ChatGPT的出现无可置疑对人类产生了巨大的影响,对科普也同样如此,导致一般的作家在它面前毫无存在的价值,除了那些能够萌生、导引智慧的作家。ChatGPT能够帮助人类做重复性、简单的工作,但这对增长智慧毫无帮助,也使大家更难以寻找到真正的智慧。例如,ChatGPT可以在短时间内写出大量的书,并且其质量未必不好,但这同样也产生了一个问题,大家会淹没在数以千计的、类似的、普通书籍,无法分辨哪本才是真正值得阅读的。

“我毫不怀疑,将来科学会越来越先进,人类会越来越接近于神”,在问答环节,张文宏指出,可以预见的未来是,人类去世,身体已不在,但他的思维仍然存在。虽然目前人工智能领域已经能够做到将逝去的亲人通过影像、声音、形体等方式保留并进行对话,但这种对话是初级的,未来的对话是能够互动和发展的,会根据人的动作和语言给予反馈。他解释,这是因为目前人工智能虽然是可储存的,但还没有实现人机结合。

会后,周忠和院士(左五)、孙茂松教授(左二)、张文宏教授(右五)与主办方合影。图/九派新闻 代梦颖

关于这种发展是否有必要,张文宏认为这是无法讨论的话题,是“它发生了就发生了的,正如我们无法回答是否应该禁止克隆技术的发展”,许多研究是科学领域已经在做了的,但对于未来的景象会如何是谁也无法预测的,一切都在演化之中。他表示,可以明确的是,在人类的研究方面,不能让科学跑得太快,科学伦理已刻不容缓地要跟上来。

九派新闻记者 代梦颖

【爆料】请联系记者微信:linghaojizhe

【来源:九派新闻】

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。