用AI反制AI诈骗,这支上海队伍获全球AI攻防挑战赛金融场景赛道冠军
东方网记者程琦11月22日报道:2024年世界互联网大会乌镇峰会在浙江省桐乡市乌镇开幕,主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。会议期间,由中国图象图形学学会、蚂蚁集团、云安全联盟(CSA)大中华区联合主办的AI大模型攻防赛圆满落下帷幕,该赛事联合了清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起,直面并解决大模型应用中潜藏风险,助力全球AI产业健康可持续发展。
大赛吸引了来自全球18个国家和地区的3200余名技术精英参与,参赛者来自清华大学、北京大学、交通大学、南洋理工大学等290多所国内外高校,以及字节跳动、理想汽车、腾讯、合合信息等上百家科技企业。凭借领先的AI视觉安全技术,合合信息从全球超千支参赛团队中脱颖而出,获得“AI核身-金融场景凭证篡改检测”(简称“AI核身”)赛道冠军。
图说:合合信息获全球AI大模型攻防挑战赛“AI核身-金融场景凭证篡改检测”赛道冠军
近年来,以大模型及AIGC为代表的技术飞跃,给人们的生活带来了便利,也产生了前所未有的安全挑战。在金融、生活等领域,“眼见不为实、耳听不为实”的场景频频发生,伪造身份材料是常见的欺诈手段,给机构及个人造成了重大财产损失。
在“AI核身”赛道中,主办方以金融领域进件审核为背景,考验参赛队伍实现大模型生成内容的防伪检测的能力。金融领域进件审核业务涵盖了信用成长、用户开户、商家入驻等多个场景,用户在办理这些业务时,需提交一定的材料(即凭证)用于证明个人身份、资产收入等信息,其真实性是困扰金融场景自动化审核的一大难题。如何通过创新技术手段提高金融凭证篡改检测精度,是赛道关注的重点。
为解决金融凭证篡改“检测难”的问题,赛道提供了大规模的、贴合实际业务场景的凭证篡改数据集,作为大赛“考卷”。据合合信息技术人员介绍,图像篡改手段“花样”繁多,即便是一张小小的购物票据,也可分为复制粘贴、拼接、擦除、AIGC生成等多种造假形式。受多种伪造方法叠加、新伪造工具涌现等因素影响,篡改图像特征分布复杂,目前的图像篡改检测技术面临泛化性和鲁棒性不足的困境,解决真实业务场景的图像伪造鉴别问题是一项艰巨的挑战。
本次比赛中,合合信息基于自主研发的图像篡改检测系统,针对百万级金融场景的凭证材料,提取图像多模态信息;系统结合低维视觉特征和高阶语义异常进行综合分析,在保持极低误检率的同时,精准识别伪造区域,有效解决了不法分子利用PS、AIGC等工具制作的高度逼真凭证样本中伪造区域难以检测的技术难题。
合合信息篡改检测技术在伪造视觉图像鉴别上有着丰富的实战经验。此前,合合信息推出了图像篡改检测技术,不仅支持检测身份证、护照在内的多种卡证,营业执照,商场小票等各类票据,还能够对截图场景、PDF扫描文件进行审核,适用于金融、保险等多个场景下的文档篡改检测。
图说:合合信息图像篡改检测技术对常见证照篡改痕迹进行定位
此次大赛中众多队伍“各显神通”,再次证明了AI产业的健康发展离不开学界和产业界的共同努力。据悉,在图像内容安全领域,由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布,为企业在开发篡改检测技术时提供明确指导,建立行业联合防范机制。
作者:程琦
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。