首页 > AI资讯 > 行业应用 > 守好“AI应用”底线,让科技向善而行

守好“AI应用”底线,让科技向善而行

新火种    2023-11-07

赵本山小品、郭德纲相声、范伟采访,纷纷一口英伦腔……连日来,多个中国明星开口说英语的视频热传。不仅如此,憨豆先生、泰勒·斯威夫特、特朗普等一众外国名人政要也说起了中文,有的甚至唱起了“东北rap”。如此混搭形成强烈反差,迅速吸引大量围观。

网络视频截图

这些场景的出现,源于AI技术的广泛应用。还是那张熟悉的脸,却说着风格迥异的语言,摆着颇为有梗的动作,喜剧效果瞬间拉满。对此,有人好奇心爆棚,制作变脸变声视频求个点赞、图个乐呵;有人投机心作祟,定制类似视频为卖课卖货引流;有人利益心驱使,做起了AI换声视频的生意,“视频单价3元/秒”“最少30秒,最长5分钟”。一时之间,短视频平台上刮起了“换脸换声风”。

科学技术是推动社会进步的有力杠杆。人们追求“好玩、有趣”本无可厚非,但不分人群、不设限制的技术运用,也存在不少安全隐患。一方面,擅自使用“AI换声换脸”本就侵犯他人私益和公共信息安全,有的粉丝将AI换脸技术运用到明星身上,在朋友圈发布“与明星同框”的视频,令人“傻傻分不清楚”,殊不知这一行为实则侵犯了他人的肖像权、隐私权以及明星作品的信息网络传播权和录音录像制作者权。有的不法分子利用此技术,引发了女子地铁照被“一键脱衣”等事件,造成极大的社会负面影响。另一方面,“AI换脸”业已成为电信诈骗的高发形式,合成一段10秒的换脸视频只需要一两分钟,技术的发展使得视频聊天的实时变脸不是难事。不法分子套着“AI面具”去网恋、裸聊,大搞“杀猪盘”甚至进行犯罪,使得小学生为救父母被骗7万多、7秒视频连线被骗30万元、小伙为帮朋友10分钟被骗430万元等事件屡屡发生。不禁感慨,以前说无图无真相,有图也不一定有真相,现在轮到视频也不代表真相了。

技术本没有对错,使用者的应用赋予了技术道德价值。AI技术用之为善可以造福社会,不当滥用则会造成社会风险和损害。我们期待看到AI技术带来更多的惊喜,同时也希望有合理的规范来指导技术应用。在源头防控层面,要进一步加强公民个人信息保护,加大对公民信息尤其是生物特征等隐私信息的技术、司法保护力度;在技术应用层面,要进一步普及利用数字水印鉴伪等技术,特别是对AI生成的视频,需标注不可消除的“AI生成”水印字样,同时要拓展AI在“大数据寻人”等方面的应用空间,让技术真正成为人类的好助手;在法律制度层面,则要进一步完善人工智能等领域相关法律法规,引导“科技向善”,更好地为人类、为社会服务;在社会群体层面,我们应当采取包容审慎的态度,理性看待、正确对待,在保护好自身安全的同时,积极拥抱技术变革带来的新未来。(宛林)

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。