首页 > AI资讯 > 最新资讯 > 警惕AI换脸来诈骗!和你视频的可能不是真朋友诈骗千层套路如何破解?

警惕AI换脸来诈骗!和你视频的可能不是真朋友诈骗千层套路如何破解?

新火种    2023-10-05

  随着数字科技的飞跃发展,“互联网+”时代已经紧跟不断进步的网络技术而到来,AI也在迅速进入大众生活。

  数字化浪潮席卷社会的方方面面,诈骗手段也随之更新迭代,尤其是日益增加的电信网络诈骗犯罪,不仅对众多受骗者造成了严重的财产损失,也令各类金融机构叫苦不迭。

  需要注意的是,诈骗分子也盯上AI技术,和你视频对话的,可能不是本人。然而,在日益增加的电信诈骗案件中,犯罪分子常常诱导用户自行操作,如何辨别用户的正常操作与受骗后“非自觉”的操作,成为一道风控难题。

  AI诈骗是什么?

  所谓AI诈骗,是指诈骗分子通过AI技术,广泛搜集人脸、声音等个人生物信息,以此对人物性格进行刻画,从而进行较为有针对性的诈骗犯罪行为。

  整体来看,“AI换脸”“AI拟声”以及虚拟场景构建的出现,正是设备性能提升和技术软件优化的产物,而利用“AI换脸”技术实施诈骗,已然成为一种新型网络诈骗。

  据《工人日报》报道,今年5月份,包头警方发布一起利用AI实施电信诈骗的典型案例。4月20日中午,郭先生微信列表中的一位好友突然通过微信视频联系他,声称自己的朋友在外地竞标,需要430万保证金。

  基于对好友的信任,郭先生在加上所谓“好友”的朋友后,通过视频聊天核实身份,在微信视频聊天中,骗子“换脸”后面部表情自然,声音逼真,受害人便放松了警惕。

  之后,郭先生分两笔把430万转到了“好友”朋友的银行卡,期间也没有核实钱款是否到账。过了一阵子,郭先生再度拨打好友电话才发觉被骗。正是基于智能AI换脸和拟声技术,诈骗分子成功佯装成好友,对郭先生实施了诈骗。

  幸运的是,接到报警后,福州、包头两地警银迅速启动止付机制,成功止付拦截336.84万元,但仍有93.16万元被转移,目前正在全力追缴中。

  浙江网信网文章显示, 随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。

  如何防范?

  最高人民检察院官方微信公众号提示,要“相互提示,共同预防”“多重验证,确认身份”“细心判断,识别假脸”。

  具体来看,首先,要时常提醒、告诫身边的亲人、朋友提高安全意识和应对高科技诈骗的能力,预防上当受骗。特别提醒老年人在接到可疑电话、短信时,要再次回拨家人电话确认,不要贸然轻信。

  其次,在涉及转账交易等行为时,细心询问私密信息、多重验证身份,确认对方是否为本人。避免通过微信等社交软件直接转账,最好向对方的银行账户转账,将到账时间设置为“2小时到账”或“24小时到账”。

  值得注意的是,多数假脸是使用眨眼照片合成,假脸极少甚至不会眨眼,缺少眨眼是判断一个视频真假的好方法。辨识“深度伪造”换脸视频的方法还包括语音和嘴唇运动不同步、情绪不符合、模糊的痕迹、画面停顿或变色等。

  有接近经侦办案人士向记者透露,他明显感受到的是,自2019年以来,新形式的网络诈骗案呈现明显增长。“特别是在几个一线城市中,被骗的受骗者不仅限于中老年防骗意识较为薄弱的群体,金融白领、律师、大学生等等都有不少典型案例。”

  此外,诈骗团伙对于社会时事、机构企业等特性跟进十分迅速,诈骗的方式手段与“话术”也在不断更新迭代,尤其在当前数字化、线上化应用普及的今天,诈骗分子能更加便利地通过社交平台进行精准诈骗。

  有分析人士表示,法律制度方面看,反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。接下来,或将通过进一步完善人工智能等领域相关法律,通过案例等指引,建立人工智能侵权纠纷法律框架、诉讼程序和赔偿标准等。

(文章来源:券商中国)

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。