首页 > AI资讯 > 最新资讯 > 乌镇峰会十年之变:生成式AI风险与治理成这届热点议题

乌镇峰会十年之变:生成式AI风险与治理成这届热点议题

新火种    2023-11-14

  乌镇峰会完成十年之约,圆满落幕。

  “在刚刚过去的三天,有126个国家和地区的1800多位嘉宾参会,国别数创历年来新高。”11月10日上午,在2023年世界互联网大会乌镇峰会新闻发布会上,世界互联网大会秘书长任贤良介绍了本届乌镇峰会的盛况。

  2014年首届大会举办时,乌镇与数字经济相关的企业只有12家。“今天,这个数字已经超过1000家。”浙江省委常委、省委宣传部部长,世界互联网大会乌镇峰会浙江省承办工作领导小组组长赵承此前透露。

  从第一届大会时聚焦的智能穿戴设备、无人驾驶,到元宇宙、区块链,再到今年的大模型、AIGC,变化的不只是乌镇,还有互联网的十年技术发展。南都采访了多位参会的企业大咖、学界人士,提起此次来乌镇峰会最感兴趣的话题,几乎都聚焦AI、大模型、技术赋能等方面。今年的乌镇峰会主角不再是企业家、大佬,而是与生成式AI相关的风险、机遇和普惠话题。

新华社照片

观众在乌镇世界互联网科技馆大厅观看机器人跳舞。新华社照片

  十年之变

  从技术进步到网络安全、治理

  十周年之际,乌镇峰会来了不少“老朋友”。从这些“老朋友”的描述中,中国互联网近十年的发展也拉开帷幕。

  已经是第九次参会的搜狐创始人、董事局主席兼首席执行官、物理学博士张朝阳描述自己为中国互联网报春“知更鸟”,提起这十年来互联网行业的发展和变化,他以“影像传媒崛起”“算法推荐分发”“自媒体崛起”进行了总结。在他看来,互联网发展是一个连续的、一直在发生的过程。带宽从3G到4G、5G,内容传播形态的变化导致了影像传媒崛起;而BBS论坛、Blog博客到Facebook、Twitter,再到国内的微博、短视频、直播,则改变了传统传媒“一对多”的局面,形成了多对多的互联网社交关系,甚至还涌现出个人对个人、个人对机器和算法的新情况。

搜狐创始人、董事局主席兼首席执行官张朝阳

  从网络安全角度,连续十年参加乌镇峰会的360集团创始人周鸿祎,同样也对这十年进行了总结和展望。“下一个十年,安全行业要自我突破和升级,把安全发展成为新型数字基础设施和公共服务平台,推动数字安全的普惠。”在2023年世界互联网大会乌镇峰会全体会议上,周鸿祎表示,过去十年是安全行业砥砺探索的十年。在统筹发展与安全的国家总体安全观指导下,安全行业增长了不止10倍,实现了核心技术和产业规模的双突破。

  随着国内外环境的变化,乌镇峰会关注的议题也在不断变化。奇安信集团总裁吴云坤透露,这是他第五年参加世界互联网大会乌镇峰会,在他看来,乌镇峰会的议题经历了三个阶段,第一阶段的主题是互联网为大众提供更便利的生活;第二阶段则是“既要发展也要安全”;第三阶段,随着国际地缘政治的变化,冲突不仅是现实的冲突,也包括网络安全的冲突。

  从每年乌镇峰会关注的议题来看,也体现了技术的进步和发展。第七次参加乌镇峰会的淘天集团副总裁李然告诉南都记者,他同样感受到了议题的变化,“互联网的发展、科技的发展是整个互联网大会的主线,但每年的议题也会随着科技的驱动发生变化。之前区块链、元宇宙是会议的议题,而今年AI变成了大家都在讨论的话题,无论是大模型还是大模型的应用、AI的治理,都是非常热的话题。”

淘天集团副总裁李然

  投资之辩

  大模型风口该不该追?

  今年的乌镇峰会,AI、大模型成为热议话题。企业到底该不该追大模型的风口?资金不够雄厚的企业该如何应对AI浪潮?对于这一问题,不少企业家给出了自己的思考。

  张朝阳表示,如果企业资金实力并不大,现金流也不好,却要把所有资金投入到大模型、AIGC上,是“有点危险”的,“还是要盯好脚下的路,互联网依然是互联网,是多对多的众人的交流平台。机器在算法、资讯分发、人机界面、整个人类知识的提供方面提高了效率,但这种效率幻化成具体的商业机会来讲,还需要再等一等。一股脑全上去,现金流全断了,追了AIGC风口半天最后却破产了,那不是挺惨吗?人与机器的关系是一个方面,不要忘了互联网是人与人的关系。”

  除了对企业盲目追AI的反思,在本届乌镇峰会中,AIGC带来的风险也成为热议话题。图灵奖得主、法国科学院院士Joseph Sifakis认为,在缺乏足够安全保障的情况下,应该采取预防原则,还应该考虑在人工智能系统中如何通过限制训练数据集实现更好的可预测性和可控性。Joseph Sifakis提出应该推出新的基础理论,探索可解释人工智能的新途径,并开发针对人工智能监控器和端到端控制器的测试技术。

  网络安全风险也成为一大关注焦点。对于AIGC的风险研判,吴云坤表示,生成式人工智能带来的安全风险主要有三个方面,一方面是数据泄露的风险,“因为任何像生成式人工智能的算法、应用,其实都需要大量的数据,这些数据可能是非常重要的。所以在整个应用当中,都要能够保证数据的安全”;第二个风险点在于算法,“算法如果被对抗,可能造成我们过去能靠人来控制的,可是机器已经被对抗了。它会被恶意利用”;第三个风险点则是在伦理方面,“生成式人工智能中有很多涉及法律、制度、政策、伦理等方面,如果不健全有可能带来新的风险。”

奇安信集团总裁吴云坤

  趋势之问

  AI带来普惠,还是加大数字鸿沟?

  在乌镇峰会上,南都记者向多位嘉宾提问了“AI会让人类更普惠,还是加大数字鸿沟”,而几乎每位嘉宾都给出了积极的回答。

  在电商从业者看来,当AI的能力运用到电商,中小商家会更加受益。李然认为,AI就像电力和云计算一样,可以让更多中小商家享受到普惠的能力,“从商家的开店、经营、营销、物流、履约到服务,整个体系都会被AI赋能。”

  从台湾赶来乌镇的台湾电商协会执行长周宏昌,也在乌镇峰会的现场见证了AI在直播中的普惠作用,“我在现场看到通过AI技术可以在直播间将主播说的话直接转成日语,通过这种新技术,我们可以把直播间的商品卖到海外。很多年轻人如果在家乡找不到工作就只能被迫去台北谋生,如果有直播电商,也许在家里帮父母卖水果也能有不错的收入。”

  在学术界,大模型的出现则推动了人工智能领域产学研的飞速发展。南京图灵人工智能研究院CEO李强告诉记者,大模型在整个产学研范式变化中起到的最大作用,就是强大的泛化能力,“在这个基础模型的基础上,只要能够适当地追加一些行业数据、精调的数据,有可能就可以短平快地产生和行业结合比较紧密的人工智能场景、应用和对应的模型。我们认为可以把大模型的出现假定成类似于电力出现的关键节点。”

  更重要的是,随着大模型的发展,更具有社会价值的领域存在的技术难关也迎来突破的曙光。广州音书科技有限公司创始人兼CEO、广东省聋人协会监事长石城川在大学毕业后创建了基于AI的听障群体服务平台,致力于通过人工智能技术改善听障人士的沟通现状。他告诉记者,此次来到乌镇峰会最关注的话题就是人工智能相关的前沿进展,“我们自己在做手语视频相关的算法,也关注到大模型的最新进展,也许可以跟我们手语相关的研究进行结合。”

  正如任贤良在人工智能赋能产业发展论坛上说的,“新一代人工智能技术正加速与各行各业的深度融合,深刻改变生产模式和经济形态,展现出强大的赋能效应。回顾人工智能的发展历程,技术突破在助力繁荣与发展的同时,也带来数字鸿沟加剧、科技伦理失范等风险。”

(文章来源:南方都市报)

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。