首页 > AI资讯 > 最新资讯 > 安全性、合规性、伦理性挑战下金融大模型也要戴上“紧箍”

安全性、合规性、伦理性挑战下金融大模型也要戴上“紧箍”

新火种    2023-11-05

  大模型“狂飙”时代,算力、算法、数据构成了新商业模式的“三驾马车”,相比其他领域,金融对数据专业性以及在风控、合规、安全层面的要求都更高,这也给金融机构和企业在探索金融大模型上带来诸多挑战。

  未来,当金融大模型无孔不入,要不要给它戴上“紧箍”?香港金融科技周2023期间,在第一财经举办的“人工智能新纪元:探路金融大模型”分论坛上,香港特区政府投资推广署财经金融及金融科技主管梁瀚璟、平安壹账通银行执行董事兼行政总裁费轶明,万向区块链首席经济学家邹传伟、马上消费金融首席信息官蒋宁,围绕金融大模型的治理挑战展开了深入的探讨。

  安全性、合规性挑战

  金融是具有高度专业性的行业,大模型与金融的碰撞中,合规性、安全性是首要挑战。

  平安壹账通银行执行董事兼行政总裁费轶明指出,大模型在金融领域面临的首要挑战是找到合适的场景。金融对专业性要求较高,有各类流程和规范需要遵守。第二个挑战在于数据合规性,例如判断哪些数据可以使用、哪些数据属于内部数据等。

  万向区块链首席经济学家邹传伟具体解释了数据层面的安全性问题。他认为,从安全性角度看,大模型在训练推理、参数设置环节,有泄露数据的风险,其中既包括企业内部的商业机密,也包括用户的个人隐私数据。而在一些跨境金融场景中,跨境的数据流通问题也较为敏感。因此很多企业或区域会采用本地化部署的方式。

  而从合规性的角度看,邹传伟认为当前大模型存在“幻觉”,即会“一本正经的胡说八道”。这种特质在文创、艺术领域可以大开“脑洞”,促进创意形成。但在金融领域则要求严谨,在证券市场,如金融大模型做出虚假的、误导性的陈述,就会造成严重的后果。

  根据上海计算机软件测评重点实验室团队测试结果,ChatGPT4在幻觉输出概率上达到30%,国内大模型这一数据超过了50%。

  而从更深层次的价值观维度来看,邹传伟认为,金融不完全是一个简单的商业活动,有一定的价值尺度,其中涉及到人的基本权利,如公平获取信贷的权利。而算法本身具有将近2000亿的参数,运作机制也不为公众了解,有非常强的“黑盒”特征。这会导致一定的信任问题。

  锻造“内功”

  从长远视角看,“百模大战”中,大模型的竞争落足点并不是比谁跑得更快,而是比谁走得更远,这需要金融大模型对算力、算法、数据进一步优化,锻造“内功”。

  马上消费金融首席信息官蒋宁将此归纳为,算力的稳定性保障、算法的鲁棒性和安全性、数据有序性三个方面。

  从算法上看,金融机构需要保证100%的安全,但目前在生成式AI领域存在鲁棒性问题,即系统的强健性问题,能否在面临各类参数摄动下,维持某些性能的特性。目前还需要通过持续性学习、对抗学习进行解决。

  在数据有序性方面,蒋宁称,并非无限制向大模型中投入数据,就会产生智能。智能的产生与数据的质量、样本的分布密切相关。需要确保高质量、有合规授权的数据,以有组织的方式投入到大模型中。

  此外,算力的稳定性保障也是提升安全性的关键一环。“营销环节从几十个标签到上亿标签,风控也从几百个变量到百万变量,这对算力安全提出了更高的要求。”蒋宁举例称,今年8月,马上消费金融发布的首个零售金融大模型“天镜”,应用于自动化营销、风控等实际业务场景,目前,数据每个月以将近20%的速度增加,对芯片、机房、网络带宽、算力等要求巨大。

  费轶明也指出,大模型带来的算力需求,可能是指数级增长的。无论是数字银行、传统银行,如何保证算力来支撑公司战略,推进大模型的开发和应用都是巨大的挑战。

  而针对“百模大战”热潮中的安全性、合规性隐患,如何监管既能保护创新,又保证风险可控?

  在内地,对生成式AI的规范已逐渐落地。2023年8月15日,国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式实施,明确不同业务场景之下不同主体的合规义务,同时明确必须对AIGC生成的内容进行标记。9月1日,国家互联网信息办公室发布了《关于第二批深度合成服务算法备案的信息公告》。公告清单显示,第二批深度合成服务共计110个算法信息完成备案。

  而在香港,通过技术手段规范金融科技也是监管关注的新方向。香港特区政府投资推广署财经金融及金融科技主管梁瀚璟指出,香港在监管层面的原则是“相同风险、相同监管”,数字资产、Web3.0都适用于这一原则。

  梁瀚璟介绍,目前金融科技领域各种新赛道发展速度很快,但相比传统金融资产需要托管,虚拟资产的不确定更大,监管的难度更高。投资推广署方面,希望能够找一些最先进的软件供应商,可以进行实时交易数据的跟踪等,并介绍推荐给监管方。

(文章来源:第一财经)

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。