首页 > AI资讯 > 最新资讯 > 马上消费CTO蒋宁:安全合规的可信AI是大模型持续发展的根基

马上消费CTO蒋宁:安全合规的可信AI是大模型持续发展的根基

新火种    2023-11-14

  在数字化浪潮下,科技带动金融业变革的加速度超乎想象,特别是大模型推出以来,给行业带来的革命性变化。

  11月10日,在2023金融街论坛全球金融科技大会上,行业专家、资深学者和众多金融机构代表围绕“倡导负责任金融理念共建数字金融新生态”展开激烈讨论。马上消费副总经理兼CTO蒋宁受邀出席本次论坛,并结合公司可信AI在大模型应用中的实践与探索做了精彩分享,为业内带来了关于科技助力金融伦理建设的探索与思考。

  立足“算法、数据、算力”三个维度应对安全合规挑战

  作为深深扎根金融业务一线的资深专家,蒋宁认为,大模型新技术给行业带来了很多期望,使很多领域出现新机会,但同时也面临着安全、合规、算法和生态四个方面的挑战,以及在算法、数据和算力这三个层次也带给我们诸多焦虑。

  首先,大模型面临着来自安全、合规方面的挑战。“在谈大模型决策之前,首先要保证数据安全。我们要解决数据从哪里来,并有效地组织管理起这些数据。”蒋宁表示。目前数据的使用者、加工者、统筹者、利用者和管理者权益是分离的,需要从传统的“君主制”数据管理向“联邦制”数据管理构建,既有统筹、又有专业,既有应合、又有整体,才能有效规避大模型的潜在金融风险。

  其次,大模型在鲁棒性决策中存在着巨大挑战,大模型的可靠性依然存在巨大风险。蒋宁认为,“大模型在交易安全、生命安全等领域,在相当长一段时期里依然面临着巨大挑战,特别是在自动驾驶、医疗卫生等关乎社会安全和生命安全的领域,大模型还不能给出100%的正确建议,我们应该有效地利用大模型的建议,并对它进行有效管理”。

  最后,大模型的挑战还来自生态建设。良性大模型的构建需要行业各方共同努力,以实现各方共享大模型的技术红利。对此,他表示,“大模型技术还没有形成一个连续学习和强化学习的机制,我们要在联邦学习的基础上,发挥群体智慧,来实现互利共赢。特别是在金融领域,各家金融机构要利用自身数据优势,建立起共研、共创、共享的生态机制”。

  为什么大模型在金融行业的标准要求高,挑战多?归根结底,金融行业是一个计算密集型、数据密集型、信息密集型行业。在金融科技创新的过程中,最敏感的数据被当成了一种新型的生产要素,并且还全面参与了各类金融业务场景当中。

  在这一过程中,数据与算法所映射出来的人、财、物和现实中的人、财、物交织在一起,使得原来的人与人之间、人与物之间、人与资本之间的关系发生了巨大变化、出现了诸多挑战,在此影响下就产生了各种金融科技伦理问题。

  对于大模型的安全合规建设,马上消费从算法、数据、算力这三个维度做了一些有益的尝试和探索。

  在算法层面,基于集成操作系统,马上消费已构建起2000多个机器学习小模型,通过自我连续学习实现在线决策,基于多层防御增强金融模型的鲁棒性。

  在数据层面,马上消费通过高质量且合规的数据,有组织地投入到大模型,目前已累加100PB数据和20多万张数据库表,依托10多万个变量和特征,搭建起2000多个风控模型,形成行业领先的数据生态,实现全息用户级、全景环境级的数据资产。

  在算力层面,马上消费“天镜”大模型在自动化营销、风控等业务环节广泛应用,目前平台拥有智算中心算力200PFlops和1万余台服务器支持,以此来保障平台每秒150万次运算和每月30%的算力增长。

  回头来看,这些技术细节和解决方案的提出,无不建立在马上消费深厚的科研积累和长时间的数字化实践之上。

  坚守安全合规前提,共建金融大模型新生态

  为了能给更多同业机构系统性布局金融大模型提供样本参考,蒋宁在会上以马上消费真实的营销场景为案例,从基础设施安全、数据安全和算法安全这三个方面,系统性拆解了如何安全合规地落地金融大模型。

  他举例道,“我们对安全合规的检测,不仅要保证金融服务的安全合规,还要保证服务系统的安全合规。我们会系统性筛查每一位消费者的电话,避免消费者的对抗、诱导等行为,我们要保证每天每一通电话都是符合安全标准的。”

  对于金融行业大模型全域标准规范建设,马上消费也积极探索,努力从构建基础设施、金融全域数据规范、金融算法规范和金融应用规范等四个维度寻求突破,通过对自身基础设备规范、数据采集、数据处理、模型合规、模型可信等环节的筛查把关,构建起一套完整的大模型安全合规应用评估体系。

  对此,蒋宁还表示“金融大模型行业标准需要行业共建,完善生态,建立数据共享的机制,马上消费有幸参与重庆大模型联盟,积极推动行业的发展,相信未来在监管机构、协会和同业机构的共同努力下,金融大模型客观能力评价和行业标准也将尽快落地”。

(文章来源:上游新闻)

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。