华为李潇:昇腾AI加速金融行业智能化升级
2024年11月28日,以“打造新生态、合作赢未来”为主题的2024数字产业生态伙伴大会,在重庆悦来国际会议中心开幕。
本次大会由重庆市经济和信息化委员会、重庆两江新区管理委员会、中共重庆市委网络安全和信息化委员会办公室、中共重庆市委金融委员会办公室、重庆市科学技术局、重庆市人力资源和社会保障局、重庆市大数据应用发展管理局、重庆市知识产权局、重庆市科学技术协会等9大政府部门联合主办,重庆市发展和改革委员会支持,马上消费金融股份有限公司承办,华为技术有限公司、阿里云计算有限公司、腾讯云计算(北京)有限责任公司、北京百度网讯科技有限公司、北京中关村科金技术有限公司、重庆市大模型联盟等单位协办。
在会上,华为中国政企昇腾计算业务总经理李潇发表“昇腾AI加速行业智能化升级”主旨演讲,并表示:昇腾AI将坚持围绕基础软硬件、训推解决方案持续演进,做深技术根基。昇腾构筑高效和可靠的算力基础设施,助力金融机构拥抱大模型孵化系列应用创新,加速金融行业智能化升级。
人工智能走深向实,大模型学习和泛化能力持续增强,促使推理应用快速增长。今年,全球AI应用活跃用户数量已从21年的1800万飙升至2.3亿,其中个人及企业级付费用户比例达15%,AI应用已逐步探索出多种商业模式。伴随AI Agent、RAG、SFT等技术发展,大模型准确度可达90%以上,促进了AI与业务的融合。在互联网、金融等数字化转型水平较高的行业,AI渗透率已超过30%。根据预测,到2030年,AI将带动超过万亿的产业空间,未来充满着无限的想象。
昇腾打造了开放易用的全系列训练、推理、训推一体硬件产品、创新的硬件使能CANN和全流程工具链,全面加速并行算法、模型和应用的开发和创新。
在解决方案层面,训练系统要充分发挥有效算力,训练性能、稳定性和开发成本是关键。昇腾训练解决方案始终围绕“高性能、高可用、高易用”持续创新,满足大模型训练算力的增长需求。在训练性能上,昇腾独创了多种优化算法,如计算优化、内存优化和通信算法优化,大幅提升了训练效率。推理应用是人工智能释放价值的关键,为了更好地匹配大模型应用演进趋势,昇腾推理解决方案秉承开放、快速部署、极致性能的原则,在有效吞吐、服务化和算力部署等能力上持续演进,实现更高的AI落地经济性。
在软件层面,CANN是昇腾AI生态的根基和锚点,CANN深度开放,上接各类AI框架、加速库和应用,向下使能算力资源调度和计算加速,实现典型融合算子开发周期从2个月缩短至1.5人周,使能客户和伙伴自主开发;MindSpore持续提升动静统一能力,以1套API使能2种模式开发,让开发者忽略动静态图开发差异,小时级编码。通过编译选项,实现动/静态执行模式灵活选择;昇腾分布式加速套件MindSpeed 1.0,提供100+预置模型、60+加速算法及算子、10余种微调算法,降低从预训练到增量训练的分布式开发成本,加速模型迭代。
为了方便金融等客户部署AI推理应用,我们开放了MindIE推理引擎,可以大幅提升推理吞吐性能,加快推理应用开发及部署。同时,昇腾构建极简易用的全流程工具链MindStudio,快速支持大模型从训练开发到推理部署,让整个流程更加便捷高效。
此外,李潇还介绍了昇腾在金融行业的一些具体应用场景,并指出客户在选择算力平台的同时,也要考虑应用场景和模型的选择。昇腾凭借强大的算力和软件开放应用的能力,已经支持了多个基础大模型和行业大模型的适配。同时,昇腾还与合作伙伴一起,围绕金融行业的智能化升级,探索了多种AI应用场景,如办公、营销和客服等。当前已与马上消费联合开展了5大技术创新,马上消费的天镜大模型已基于昇腾完成测试,并应用于语音类业务场景,测试效果基本持平业界。其中智能客户分流94.7%,问题识别率93.6%,精准保障消费者合法权益,提升效率。
面向未来,建议金融客户选择相对成熟的AI技术路线和可持续迭代的基础设施,以保障关键行业的安全稳定和可持续发展;行业应聚焦成熟的场景,小步快跑地落地AI应用;联合主流模型厂商基于基础大模型进行金融数据增量训练,高效孵化出匹配自身业务的金融大模型,并提升整体的金融服务质量和效率。
本文源自:金融界
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。