首页 > AI资讯 > 最新资讯 > 反诈骗,一场用户心智「对抗赛」

反诈骗,一场用户心智「对抗赛」

新火种    2023-10-28

反诈骗,一场用户心智「对抗赛」

反诈骗不仅要拦骗子,而且还要拦用户,你敢相信?

近期,蚂蚁集团发布《2022反诈治理半年报告》,与蚂蚁集团大安全技术部总裁李俊奎进行了一次交流,让人重新审视反诈骗这件事情。

大部分人的认知里,反诈骗是一场与骗子之间较量。比如,支付宝用户的账户被骗子骗取盗刷,支付宝要建立更坚固的防护墙,让骗子无机可乘。

但实际上,反诈骗早已不再那般简单。近几年,以电信网络诈骗为代表的新型网络犯罪愈演愈烈,每一宗成功的电信诈骗,都是一场堪称完美的话剧。

骗子是演员,用户是观众。“演员”通过抓住“观众”心理,节奏明快、内容严密,让人深陷“剧情”之中,不能自拔。

这就给反诈骗提出了新的“考题”,除建立防护墙,将骗子挡在门外,还要在受骗用户的主动支付交易过程中,采用心智对抗技术,将用户拉出剧情的心智影响,助其主动识别骗局。

而这,也是蚂蚁集团的智能风控技术正在做的事之一:用主动交互式风控技术,帮助受骗用户在“自愿支付”的过程中,认识到自己其实被骗了。

打磨对抗用户心智的“工具”

蚂蚁集团大安全技术部总裁李俊奎2008年加入支付宝,有超过10年的风控安全经验,他谈起了蚂蚁从2018到2020年,打磨对抗用户心智工具的整个心路历程。

一开始,蚂蚁主要通过智能弹窗等方式劝阻用户,比如,在用户交易时,系统识别对方账户为风险账户,系统会通过智能弹窗唤醒用户的安全心智。

不过,也总有些人会忽视这种提醒,甚至在某些骗局下,认为这是平台在“拦截财路”。

就像过来人传授经验一样,出发点是好的,但说话技巧生硬,效果可能就不明显,甚至适得其反。

而后,蚂蚁想出了新办法,直接给用户打电话。2019年,蚂蚁对外推出了智能化的“叫醒热线”,AI机器人会主动致电用户,通过更有情感的语音交互,让用户识别骗局,从欺诈的剧情当中走出。

而近期,蚂蚁针对不方便接电话的用户,新开发欺诈风险机器人“安全保镖”,通过图文互动进行风险揭示。针对杀猪盘、刷单等用户沉迷性强的骗局,新增了真实意图识别能力,目前识别率已提升30%,欺诈案件量进一步下降10%。

从智能弹窗、智能叫醒热线到欺诈风险机器人“安全保镖”,整套的交互式风控技术打磨过程中,李俊奎向感叹到,与“用户斗智斗勇”并不简单。

蚂蚁交互式风控技术,有一部分内容是与浙江大学心理学研究团队合作研发,是心理学与机器学习相互碰撞打磨而成。“心理学的内容非常专业,哪怕写的文案顺序、文字颜色、语气稍微不一样,最后的结果也不一样。比如,我们把警察叔叔这样一个卡通图表放到我们的提示文案上,效果就比之前好很多,”李俊奎说到。

此外在设计智能叫醒热线时,在语音部分,到底用男生语音,还是女生语音,都是要考虑的点。

这在某种程度来说,反诈骗已经不仅是一个“技术活”,也是一个“技巧活”,通过跨界融合产生新的技术,这也是蚂蚁很重要的创新手段。

到目前,蚂蚁交互式风控技术取得了一些成绩。据蚂蚁发布的《2022年反诈治理半年报》显示,蚂蚁AI叫醒热线电话日均交互4.3万人次,平均语音沟通时长大于90s,AI的理解和沟通能力越来越好,用户也更愿意与AI交流更长时间。此外,今年上半年,蚂蚁牵头的交互式欺诈侦测技术能力标准成功在国际电联(ITU)立项。

练就识别诈骗的“火眼金睛”

不过,要唤醒用户心智,帮助用户主动识别骗局,还有一个前提:反诈方首先得自己练就一双“火眼晶睛”,能够通过特征分析,快速识别诈骗团伙。

特别是在当下,随着诈骗团伙作案手段越来越变化多端,整个电信诈骗过程变得更加隐性,这给风险识别也带来了难度。

就拿支付端来说,以前,黑灰产团伙往往通过直接盗用账户、盗用银行卡进行资金转移,而现在大多时候进行资金交易是用户本人,表面上与正常交易并无差异。因此,反诈技术需要有更加复杂、多维的隐性特征挖掘、分析能力,才可能更准确地识别明显风险。

所以,在强化交互式风控技术之前,蚂蚁在2016到2018年这个阶段重点强化了风险识别技术。

比如结合图计算技术+异常挖掘/特征传播技术,搭建了行业首个全图风控体系。支付宝平台上每天发生的上亿笔交易,全图风控技术会通过构建复杂风险特征网络,进行涉黑概率的计算,快速找出与单个嫌疑人相关联的黑产团伙,并进行提前预警与拦截,让用户的支付真正做到安全无感。

据《2022反诈治理半年报告》显示,蚂蚁智能风控系统已经可以做到秒级追溯团伙诈骗行为。

多方联合打造更坚固的“防护墙”

从全图风控技术再到交互式风控技术,总体来说,蚂蚁的智能风控系统在2020年之前大概经历了两个阶段,第一阶段形成了全图风控技术体系,第二阶段形成了交互式主动风控技术体系。

如今,蚂蚁正在进入第三阶段,通过加强端边云协同风控技术、多方安全风控技术,来加强生态联防。

合作是风控行业发展的趋势。“就算用户在支付宝平台里面没有风险交易,但是其它地方有很多风险,那用户的资金安全还是会受到影响”李俊奎说道。因此,各家支付机构、银行、互联网企业等加强互动,才能打造更坚固的反诈骗“防护墙”。

据《2022反诈治理半年报告》显示,蚂蚁通过多方风控技术,联合了4.2万家商户共同对抗诈骗等灰黑产业链,日均提供涉诈及销赃相关风险预警线索2.1万条,协助有关部门向受害用户返还被骗资金362.25万元。

不过,联防联控中的数据保护、数据安全也是挑战,李俊奎坦言。

为加强全链路风控和保护用户隐私,今年蚂蚁研发用于手机等终端设备的“可信隐私沙盒”,并已与荣耀、vivo等企业合作,将可信隐私沙盒DTXB部署到了1000万手机设备,日均识别7000+风险交易。此外,通过这项端边云协同风控技术,把一些风险模型直接注入到终端,在终端里进行风险分析,用户隐私信息就不需要再上传到云,这也对用户隐私进行了保护。

在李俊奎看来:“安全融入到基础设施,成为内置的安全,不管是从效果上面,以及作用上面,效果会更大。”

至今,蚂蚁已构建了以I(交互式主动风控)、M(多方安全风控)、A(博弈对抗智能)、G(全图风控)、E(端边云协同风控)为核心的智能风控技术体系IMAGE。

当用户打开支付宝,按下支付按钮,蚂蚁整个风控技术体系就会逐一发挥作用,对行为、交易环境、关联关系等多个维度进行风险检测扫描,尽最大程度保护交易支付安全,且整个过程不超过0.1秒。此外,蚂蚁基于IMAGE打造的支付宝智能风险感知与响应联合反诈系统,入选了2022世界人工智能大会最高奖项 SAIL 奖 TOP30 榜单。

这是一个令人欣喜的成绩,不过,反诈骗之路永无止境,未来还有许多方面值得继续探索,比如进一步实现隐私保护之下的全链路智能,比如让机器更能读懂人、加强自我进化,又比如更快应对风险变化......

【封面图片来源:网站名豆瓣,所有者:电影剧照】

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。