首页 > AI资讯 > 行业应用 > 业内人士热议人工智能赋能产业发展没有伦理规范AI就没底线

业内人士热议人工智能赋能产业发展没有伦理规范AI就没底线

新火种    2023-11-10

深圳新闻网2023年11月10日讯(深圳特区报特派记者 何涛 发自乌镇)腾讯混元大模型、百度文心大模型、讯飞星火认知大模型……在2023世界互联网大会乌镇峰会上,一批大模型亮相。在与这些大模型产品的互动中,人们对人工智能充满了惊喜与好奇。目前人工智能发展水平到底如何,人工智能创造了哪些机会,又带来了什么挑战?9日,一场关于人工智能赋能产业发展的论坛在峰会期间举行,让人们对这些问题有了更加深入的思考。

人类在模拟仿真方面达到更新境界

目前人工智能的发展状况如何?昨日,中国工程院院士、北京航空航天大学教授赵沁平带来了“创新虚拟现实2.0 发展互联网3.0”的主题演讲。他表示,模拟仿真现实世界为人类所用,自古以来就是人类追求的一个目标。随着计算机技术特别是高性能计算和人机交互技术的发展,人类在模拟仿真方面达到了更新的境界。

赵沁平称,经过几十年的发展,虚拟现实技术在许多领域都得到了很好应用,特别是在航空航天、装备制造、公共安全、医疗卫生和教育培训等方面,推动了相关行业的升级换代,同时也带来了新的大众生活体验和大众消费。

赵沁平举例说,汽车厂造了一辆车,为了实现安全性,要对几十辆甚至上百辆车进行破坏性试验。有了工业软件以后,就可以先通过技术平台进行破坏性试验,然后再进行实物试验,这样可以大大降低成本并缩短时间。

大模型越来越具备工业大生产特征

论坛上,百度AI技术生态总经理马艳军称,人工智能是驱动第四次工业革命的核心力量。他的观点得到一些参会者的认同。

百度首席技术官王海峰表示,纵观人类的每一次工业革命,其核心技术都有一些相似的特点。首先这些技术都有非常强的通用性,可以应用于各行各业,同时都具备很强的标准化、自动化和模块化的工业大生产特征,这样才可以迅速应用于各行各业,推动社会进步。

王海峰称,人工智能的核心技术是深度学习和大模型,已越来越具备标准化、自动化、模块化的工业大生产特征。大模型已经是非常完整的一个平台,包括丰富的模型库以及开发套件和工具组件等。因为标准化的基础大模型生产过程涉及到庞大的算力、大规模的数据以及非常复杂的算法,尽管很不容易,但一旦开发好后,在各行各业应用就变得很轻松,只需要将少量的场景数据进行总结分析和调适就可,全流程都能实现高度自动化。

王海峰介绍,在文心和飞桨的共同努力下,已经有8万多开发者在这个平台上进行开发,同时平台也已经服务了22万家企业,在平台上建构了80万个模型。

构建风险和安全检测框架非常关键

人工智能会否带来安全挑战,也成为论坛的焦点话题之一。中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅表示,人工智能有非常大的潜在价值,现在生成式人工智能的信息处理和预测速度比人要快很多,我们应该发挥它的长处,但要十分关注它带来的挑战。“它仍然会犯很多人不会犯的错误,所以它仍然是一个看似智能的信息处理工具,与人类的智慧还有非常大的距离。”

人工智能能发展出自我创造能力吗?曾毅称,人们十分关注机器是否能够思考,哲学家讲我思故我在,如果要让机器思考,除非机器拥有自我意识,但是现在的人工智能是没有自我的,所以也就失去了思考的根基。真正的理解能力必须基于自我感知和自我体验,现在可以做出来看似有理解能力的信息处理工具,但这跟真正的理解还是有很大的差别。创造更是这样,如果没有自我的感受和理解,创造也就成了无源之水。我们现在看到的看似能够创造的工具,其实是一种组合优化,这与真正的创造还有很大的距离。

曾毅称,人工智能是一个信息处理和分析工具,我们不希望人工智能无所不在,在生成式人工智能大模型可以进行认知升级,它的智能能力可以进行扩展,而我们对于它的风险防范捉襟见肘的时候,我们确实应该适度使用,保持稳健的发展。人工智能向来不是中立的,没有伦理安全框架的人工智能就是没有底线的。如何构建强大的风险和安全检测框架,这非常关键。

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。