AI换脸制作合成图片:韩国女性受不了了跑到中国求救
8 月 24 日当晚,在巴黎郊外的布尔歇机场,刚下私人飞机的帕维尔·杜罗夫被法国警方逮捕。
法国官方公布的消息称,杜罗夫创建的平台缺乏监管,导致了大量包括传播虚假信息、仇恨言论等在内的犯罪活动。
这个平台有一个在全球网络上响当当的名字, Telegram ,中国的网友通常称它为电报。
就在电报创始人杜罗夫进局子没几天,离法国半个地球远的韩国,又出现了一场发生在电报平台上的风暴。
这场风暴在韩国媒体中有个大家十分熟悉的称呼——“ N 号房”。
是的你没看错,在韩国, N 号房又双叒叕来了。
不过和之前的几次 N 号房事件有所不同,这次事件爆发后,韩国的女性们做了件所有人都意想不到的事,她们来到了中国的社交平台,开始向中国网友求助了。
如果这两天有刷微博的差友,应该有关注到这件事。
8 月月底,先是一个 ip 显示在韩国的网友 nosunae-520发布微博,她自称是韩国女孩,现在有很多女性受到了 Deepfake 的影响。
据说有很多韩男开始用熟人女性的照片做 AI 换脸,然后戏弄她们,这种事件在学校里尤其多。女生之间也开始留下删掉自己 ins 的公开照片,但遭到了同校男生嘲讽 “ 丑人多作怪 ” 。
不久后另一个韩国 ip 自称是 18 岁韩国女学生的网友,用机翻的方式发了一条类似的微博。
她们的主要目的是想通过这种方式,扩大全球对于 AI 换脸问题的关注度。
至于为啥不在韩国网络上发声,而是跑到中国的平台发帖,原因是她们在韩国发帖老被举报,然后平台就会警告,最后删帖处理。
中国女孩们的行动力也确实强的可怕,为了响应韩国女孩们的号召,她们打算在韩国驻伦敦大使馆前组织一场反对偷拍和 Deepfake 的活动。
在推特等平台上,韩国女孩也进行了感谢。
也有韩国的 youtuber 遮得严严实实,在镜头前侃侃而谈,认为女性们纯粹是在大惊小怪。
这番逆天言论一出,没过多久,这个人的 youtube 收益就被停了。
就事说事,在中国平台发帖的那两个网友是不是韩国女性,她们的目的是不是想为自己的现状争取关注,这个不好确定。
但可以确定的是,那几条微博里说的事,真的发生了。
8 月 28 日,韩媒 KBS 对韩国教师教育工作者工会光州地区的工作人员?进行了采访,对方称,对 AI 换脸的恐慌已经蔓延到了学校,仅仅在光州,就有 30-40多所中学受到了影响,因为学生很容易接触到类似的技术和社交媒体。
并且这位受访者给了一个十分夸张的数字:在全球范围内,有超过一半( 53%)的 Deepfake 性剥削材料,是在韩国生产的,就连小学生都受到了影响。
KBS主播与受访者(右一)连线
唔,可能大家对于 53%这个比例没什么概念。
这么说吧,央视在昨天发了条微博,里边说韩国教育部门针对深度伪造犯罪问题,对全国校园进行了摸底清查。
结果仅 8 月 27 日、 29 日两天,就受理了 2500起举报,至少涉及 200所学校。
这还只是举报的,那些没敢站出来举报的,谁也不知道有多少人。
而且请大家注意,以上的数字,还有一个大前提:
在今年 5 月底,韩国就已经爆发过一次 N 号房事件了。当时首尔大学“N 号房事件”的关键词在韩网上引起了广泛谈论,咱国内也火过一圈。
事件的起因是首尔大学的几个男性校友,在多年时间里,通过网络等方式搜集同校女性的照片资料,并通过 Deepfake 技术合成暴露图片,然后通过电报平台进行传播,甚至对照片原主人进行戏弄恐吓等。
警方对于电报平台的隐蔽性无能为力,一般都是草草结案,最后基本只能得到个“我们会尽力”的答复,至于怎么尽力,那就只有天知道了。
之后提心吊胆的受害者们跑到首尔中央地方检察厅和首尔高等检察厅,结果又被驳回。
万般无奈之下,她们找到了调查过 N 号房事件的“追踪团·火花”成员袁恩智(音译),帮助自己进行调查。
袁恩智先是给自己伪造了一个拥有娇妻的首尔大学毕业中年男的身份,和对方建立了联系。然后在两年时间的接触之后,她逐渐打消了对方的怀疑,开始了进一步的动作。
为了勾引对方现身,她对元凶说我把老婆的内裤给你,然后这几个被小头控制大头的人,就来到了线下,暴露在了摄像头前。
给首尔大学造成恐慌的几个凶手,可算是被警方给一锅端了。
真相浮出水面,大家才知道为啥韩国女性对这事这么恐慌。
只是五个元凶中的朴某一人,就针对约 48 名包括未成年在内女性受害者制作了 AI 合成的成人内容。他被指控在 2021 年 7 月至今年 4 月期间制作了约 400个虚假视频,并传播了约 1700个视频。
几个深藏在人们身边的罪犯是被挖出来了,官方该处理也处理过了,可当时我就预测过,这事根本没完。
那阵子韩国人在网络上吵翻了天,能留言的地方肯定会有人说国家要完。
事实也证明了,韩国人确实懂韩国。
究其原因, N 号房三个字代表的不是某一事件,而是某一类事件。
第一次 N 号房曝光之后,涉案人员赵博士等人吃牢饭去了,首尔大学 N 号房事件之后,涉案团队也蹲号子去了,可是你看,现在又一起 N 号房出现了。
光是抓捕凶手是不够的,重点是犯罪的土壤,似乎从未改变。大家忙着清扫屋子,可就是不愿意去看一眼房间里的大象。
韩国时报报道,那些 Deepfake 的肇事者,根本不怕警方的警告,他们甚至在社交平台吹嘘,认为自己不会被抓住,并且嘲笑政府和媒体大惊小怪。
京畿大学犯罪心理学教授李秀贞( Lee Soo-jung )认为,自 2022 年以来,主要是欧洲开始制定对传播性剥削内容的平台追究责任的法律,但韩国仍然没有惩罚法规,只有监控。
为啥韩国就老是搞不定这些事呢?因为 telegram 从未回应韩国政府合作调查性犯罪的请求。
于是在现实世界里,韩国官僚政客和 Deepfake 内容生产者们,似乎达成了一种微妙的平衡。
政客们没少提各种意见和建议,但最后就是执行不下去, Deepfake 内容生产者们该怎么玩还是怎么玩,世界该怎么烂就怎么烂。
沉疴还需下猛药,韩国少一个敢掀桌子,逮捕 telegram 创始人的猛人。
可能已经有人忘了,“N 号房”这个名词的由来了。
当时性剥削的聊天室分别被命名为“1 号房”、“2 号房”。以此类推,这类聊天室被统称为 N 号房。
N 的背后,是在网络上泛滥的色情霸凌,也是人性里无穷无尽的欲望。坐在屏幕前窥视着 N 号房的人,站在绝对支配地位,不受控制的散发出恶意,最后就连自己也习以为常。
这种恶意经过网络的传播,就像蟑螂一样增殖,爬到每一个角落。直到有一天曝光到普通人的视野里,大家才知道掀开互联网的一角,里面遍布充斥着人性腐臭味的赛博蟑螂。
对付蟑螂的最好办法不是沟通和怀柔,杀虫剂才是良药。有些东西就不该出现,杀死蟑螂冲进下水道,它好我也好。
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。