“隔空接吻，只需要两张照片”“AI接吻制作教程来了”……近些天，在一些短视频平台上，这类“AI接吻视频”十分流行。有博主宣称只需要下载一个软件，花费9.9元就可以完成。看着两个毫无关系的照片人物“活生生”亲吻拥抱在一起，不少网友直呼可怕。在短视频平台上，可以搜索到不少这类AI生成的接吻视频，视频“主角”可以是当红明星，也可以是普通网友。只要会使用AI工具，就可以“乱点鸳鸯谱”。

AI无疑是时代的风口，它正在更深层次地融入我们的工作和生活。AI可以帮助打工人查阅资料，可以渲染视频效果，还可以管控工厂生产线、优化城市红绿灯，用途正在变得越来越广泛，未来可能成为新的“基础设施”。不过，人们对AI可能带来的风险与挑战也是忧心忡忡，许多科幻作品都以未来人类与AI的冲突为主题。比起天马行空的科幻想象，AI海量生产的虚假内容和深度伪造的视频，已经形成了不可忽视的“AI污染”。清华大学新闻与传播学院新媒体研究中心2024年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。这带来了一系列道德和法律风险，正在考验人类对新技术的驾驭能力。

不得不说，现在的AI技术十分强大，用照片生成的接吻视频看起来是天衣无缝，完全可以以假乱真。然而，在被技术的力量震撼之余，更多的人感受到的是“细思极恐”。显然，无论视频的主角是谁，用现实人物生成接吻视频，都已挑战法律和道德的底线。之前已经发生过有人利用AI换脸技术生成“艳照”用以敲诈勒索的案件，现在AI技术更加发达，生成效果更加逼真，对社会秩序、公序良俗的潜在威胁也更大。

假作真时真亦假，用AI生成接吻视频，看似只是“新型恶作剧”。但我们要看到，这是AI“技术跑赢治理”严峻现状的冰山一角。2024年乌镇世界互联网大会上发布的《全球人工智能治理研究报告》已经指出了当前人工智能治理存在的风险，包括制作“幻觉”内容、深度伪造生成内容、侵犯数据隐私等。报告还呼吁，要坚持以人为本的价值取向、坚守智能向善的原则，利用AI赋能千行百业，同时防范应对安全风险，逐步推进人工智能治理体系的建设。

到底是“能力越大责任越大”还是“能力越大危害越大”？控制技术走向的缰绳，还是掌握在人的手里。我们必须明确AI平台对源头素材的把控责任和对生成内容的监管责任，控制AI生成内容的使用场景，明确标识AI生成内容，加强对AI生成内容的筛查监管，利用“好AI”治理“恶AI”。同时，相关视频平台、社交媒体等也要明确管理AI生成内容的平台责任，对于“隔空接吻”等明显违背公序良俗且有法律风险的内容要及时查删，彻底消除这类只会带来副作用的“应用场景”。

既要管得住，还要用得好。面对快速发展的AI技术，治理水平也需要快马加鞭，这样才不会让AI跑出法律和道德的疆界。

特约评论员 吴迪

上游评论投稿邮箱：sypl2020@163.com