让终端“拥抱”生成式AI,高通改革行业新标准
2023年10月,高通在夏威夷召开了2023骁龙峰会,发布第三代骁龙8移动平台、骁龙X Elite两款终端产品,它们相比上代不仅性能获得提升,还用目前大火的“生成式AI”赋能实际体验,展现出引领行业的硬实力。
高通公司CEO安蒙也在本次会议上表示,骁龙在助力塑造和把握终端侧生成式AI机遇方面独具优势,未来骁龙赋能的生成式AI体验将无处不在。
历经十余年,高通在AI研发方面深耕已久,不断突破可能性。落实到终端方面,AI能让感知、推理和行为等核心能力带来更加高效、智能的交互体验。如今,AI已经与CPU、GPU等能力同级,跃升为评价终端的关键标准。
1 赋能移动终端平台 AI已能做得更多
作为骁龙AI引擎的核心,Hexagon处理器最早在2007年就发布了其首个版本。最初,DSP仅仅是被用于语音和简单的音频视频解码播放,能在无延迟、无失真的情况下流式传输音频,消除背景噪声。
2015年,Hexagon 680赋能的骁龙820芯片逐渐被国内用户所熟知,小米5、三星GALAXY S7 Edge等旗舰机都展现出其强劲实力。Hexagon 680具备高效多线程可编辑计算引擎,支持音频和图形任务的并行执行以及新架构扩展支持图像功能,同时维持骁龙工具链,由此为用户在视觉、拍摄等方面带来全新的用户体验,同时还能保证较低的功耗水平。
在弱光情况下,骁龙 820可通过ISP 和 DSP 自适应地增亮视频和照片中较暗的区域
2018 年,骁龙 855 中搭载的 Hexagon 780处理器增加了张量加速器,能以更低的功耗提供高效的标量运算;2019 年,骁龙 865 上扩展了终端侧 AI 用例,包含 AI 图片、AI 视频、AI 语音和始终在线的传感器中枢。
到了第二代骁龙8移动平台,Hexagon处理器已经与KryoCPU、Adreno GPU高效协同工作,使得AI能力出现了翻天覆地的变化。比如这款平台搭载了全新升级的Hexagon处理器,并具备INT4精度AI计算能力,在持续AI推理方面能够实现60%的能效提升、90%的性能提升,处理自然语言方面的任务时,能够实现4.35倍的AI性能提升。
高通AI引擎不仅支持传统数据处理AI用例,需要极高算力的生成式AI模型也已不再触不可及。第二代骁龙8移动平台已经可以支持参数超过10亿的AI模型运行,甚至能让StableDiffusion在智能手机上高效运行,15秒内执行20步推理,生成一张生动的高清图像。
全球首个运行在Android手机上的Stable Diffusion终端侧演示
如今,AI能力已经贯彻到整个芯片的所有关键领域,拍照时可以自动识别场景并调整拍摄参数,亦或在自拍时优化人物面部,小白也能一键出片;音频AI降噪能让通话更加清晰;游戏表现方面能带来畅快稳定的网络连接,到顺滑流畅的触控操作,再到极致的画质体验等等,贯穿了整个芯片的关键领域。
2 高通终端侧AI具备技术优势 引领行业发展
生成式AI发展之初,由于计算规模巨大,运算处理基本都汇集在云端进行。但如今为了提升用户的体验,AI能力需要落实到数十亿终端设备,成本也会呈几何式提升。因此,高通致力于推出“混合AI”架构,即云端和边缘终端之间分配并协调 AI 工作负载的处理方式,而普及端侧AI就是其中的重要一步。
值得注意的是,高通在端侧AI领域具有自己独特的优势,其业务遍布全球以及各个行业,采用高通解决方案的终端设备规模十分庞大,每年还有每年有数亿台的新终端还在进入市场,完全满足终端侧AI大规模落地的需求。
如果你对终端产品有所了解,一定会感叹于近几年的SoC芯片迭代之迅速。现如今,旗舰SoC芯片中的CPU、GPU算力已经足以为用户带来出众的游戏体验,性能已经不再成为用户的优先关注点;而ISP、音频、5G、Wi-Fi等能力也已满足用户需求,今时今日哪怕是最入门的骁龙移动平台产品也能拥有不错的使用体验,更遑论那些加持了更高级骁龙芯片的中高端产品和旗舰机型了。
在终端产品支柱能力基本满足体验之后,AI能力现在已经成为评价终端的关键标准,于2023骁龙峰会上发布的第三代骁龙8就是高通技术公司首个专为生成式AI打造的移动平台,让生成式AI赋能用户创作独特内容,引领终端侧智能新时代。
3 集终端侧智能、顶级性能和能效于一体 第三代骁龙8移动平台赋能体验
为了满足端侧AI的运算需求,第三代骁龙8移动平台内置的AI引擎Hexagon全面升级,高通专门其为其配备了独立的供电电路,能效提升了40%,整体性能提升达到98%,AI算力超过73 TOPS。另外,Hexagon NPU矢量单元与内存之间增加了直连通道,处理效率更高。
全新的第三代骁龙8移动平台支持包括Meta Llama 2在内的多模型生成式AI,其可处理的大模型参数超过100亿,每秒可执行最多20个tokens。高通还为其提供了全新的一体化AI Stack开发平台,首发支持20多个不同模型,支持Pytorch等各种AI框架。
在强大的AI算力支持下,骁龙手机能够在端侧实现很多新玩法。比如通过StableDiffusion在智能手机上快速生成图像,只需要不到1秒的时间,即可在本地生成图片,速度上甚至比云端大模型更具优势,而且在隐私方面的表现也更让用户放心。
与此同时,各大手机厂商也凭借骁龙移动平台的AI实力,定制推出了面向端侧的大模型。11月初,vivo发布全新蓝心大模型,能理解用户给出的文字内容,并给出准确、贴切的回答,或者完成文字查找、要点总结便利功能。
可以预见,生成式AI将在人们的科技生活中起到举足轻重的作用,利用大规模终端侧 AI 处理也有着广阔前景。或许在不久的将来,AI能力将成为评估芯片的最关键标准之一。
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。