11月9日，2023年世界互联网大会乌镇峰会人工智能赋能产业发展论坛在浙江乌镇举行。论坛以“人工智能赋能产业发展”为主题，旨在深入探讨如何更好地发挥人工智能创新引领与赋能作用，促进人工智能与经济社会的深度融合，协调发展与治理，促进科技向善。

　　论坛发布了《发展负责任的生成式人工智能研究报告及共识文件》，呼吁为人工智能产业健康发展创造良好环境。

　　会上，多位嘉宾都在分享中提到了AI会产生的“幻觉”和错误。百度首席技术官王海峰在分享中透露了百度对于大模型的“幻觉”的应对方式。他表示，百度将发展了很多年的搜索引擎升级为基于语义理解和匹配的新一代的搜索架构，可以得到更精准的搜索结果，把这个结果和生成模型融合，得到准确率更高、实效性更强的结果，“比如人写一篇稿子的时候，会有一些关键知识点需要事先准备好，比如一些观点、实验数据等等这些，当大模型接收到一个输出的时候，我们也做了知识点增强的技术，先理解用户的需求，针对这个需求把其中可能会需要的关键知识点，通过搜索引擎、知识图谱、数据库等找到，一起送进大模型，这时候它的生成会更有针对性、更准确。当然其中会发生错误，所以输出结果的时候再次用知识点增强进行反思和确认，确保这些关键点是正确的，我们叫做‘两个阶段的知识点增强’”。

　　美国东北大学教授Kenneth Ward Church则是发表了题为《The Easy, the Hard and the Ugly》的演讲，其中对于人工智能丑陋的部分，Kenneth Ward Church举例称，“人工智能会有一些这样的问题，比如小孩子说喜欢圣诞老人，结果GPT给出的回复是我也喜欢毒品，你会发现人工智能是有很多问题的。同时我们可以看到通过人工智能，在推特上面，微软的聊天机器人在一天之内就学会了歧视，这是微软犯下的一个错误。迪士尼他们也会回避这种语言。”

　　大会还公布了世界互联网大会人工智能工作组广泛汇聚全球人工智能产业链上下游企业、高端智库、国际组织、顶尖高校的智慧，形成的《发展负责任的生成式人工智能研究报告及共识文件》。

　　德国明斯特大学信息、电信和媒体法研究所所长Prof.Dr. Bernd Holznagel介绍了文件中提炼的《发展负责任的生成式人工智能十条共识》：

　　第一，发展负责任的生成式人工智能应始终致力于增进人类福祉，坚持以人为本，推动人类经济、社会和生态可持续发展。

　　第二，积极倡导并稳妥推进生成式人工智能的可持续发展。

　　第三，构建有益于生成式人工智能健康有序发展的良好环境。

　　第四，提升生成式人工智能研发及规模应用的能力。

　　第五，发展安全可靠的生成式人工智能，确保全生命周期内可控地运行。

　　第六，增强生成式人工智能系统的透明度与可解释性，提升人类对其理解和信任。

　　第七，强化生成式人工智能数据治理，加强数据安全，尊重和保护个人隐私。

　　第八，确保生成式人工智能的开放包容和公平普惠。

　　第九，明确生成式人工智能的归责体系，增强系统可追溯性。

　　第十，推动生成式人工智能更好地理解人类意图、遵循人类指令并符合人类的伦理道德。

（文章来源：南方都市报）