卷生成式AI的旗舰手机,2024年会引发一场交互革命
安卓手机厂商未来都可以基于 AICore 构建自己的大模型应用,实现不同的效果。谷歌表示,明年还将支持多种第三方应用,以及高通等旗舰手机芯片。ChatGPT 刚满一周岁,强大的生成式 AI 应用就要进入手机,来到我们身边了。移动端生成式 AI,革新交互方式大模型之所以成为人们追求的目标,是因为它聚合了人类大量的知识与信息,同时可以自如地应用这些信息去解决问题。不仅如此,当前的大模型已经展示出了一些逻辑思维甚至情感的能力。如果智能程度很高的 AI,可以在人们的指令下利用移动设备上的各类应用实现操纵,手机的体验就会发生巨大的变化。
在这里,从手机厂商到科技公司,大家似乎达成了一种共识 —— 只有让生成式 AI 实现真正的终端运行,这种革命性的技术才能算是真正落地。毕竟只有实现了端侧的大模型推理,我们才能获得无缝的实时响应,也不必将用户个人的数据传输到云端,避免隐私泄露问题。而实现端侧生成式 AI 的重任,最终还是要落在移动端芯片上。今年 10 月,首个专为生成式 AI 打造的第三代骁龙 8 移动平台打响了手机版生成式 AI 的第一枪。基于骁龙 8Gen3,最先发布新一代旗舰手机的小米展示了这样的技术:终端的 AI 模型可以理解你的任意指令,并正确地完成复杂任务,比如写发言稿、写商品评价、拟祝福微信等等。
从最直观的 AI 搜索到复杂的视频创作,生成式 AI 正在改变很多任务上人机交互的形态。而且这还只是个开始,未来的 AI 芯片不仅会让手机速度更快、体验更好,还会通过新技术从根本上改变我们的使用方式。围绕生成式 AI 加持的系统,很多厂商都预告了手机系统中更加强大的「意图感知」能力,电脑和手机可以更加了解用户本人,会根据人们的使用行为和所处位置,主动提出各项服务,提升工作效率。到最后,智能手机的使用方式将变成人与 AI 协同工作。当人机交互的形态发生转变时,新一轮变革会在很多行业中发生。手机、PC 畅玩 AI 大模型:把不可能变成可能基于新一代高通 AI 引擎,骁龙 8Gen3 实现了前所未有的 AI 性能, 它可以支持在手机端运行 100 亿参数大语言模型,在跑 Llama2-7B 时,每秒能生成 20 个 token。
与此同时,8Gen3 跑大模型的实用性也有很大的进步,以往需要占用十几 G 内存才能运行的大模型,经过量化后只需不到 2G,完全足以运行在常规配置的手机上。骁龙 8Gen3 采用的高通 AI 引擎拥有全新设计的 Hexagon NPU,集成了硬件加速单元和微型区块推理单元,以及全新的张量、标量及矢量单元,所有单元共享两倍带宽的大容量共享内存,内部运行频率更高,内部缓存空间更大,速度相较上代有了显著的提升。另一方面,骁龙 8Gen3 也进一步提升了 AI 模型的量化能力,其同时支持 INT8+INT16 的混合精度以及 INT4、INT8 等精度。通过异构计算的方式,骁龙 8Gen3 的 Hexagon NPU 的 AI 性能较前代提升 98%,能效也提升了 40%。
图片来源:极客湾。骁龙 X Elite 同样专为人工智能打造,目前已支持在端侧运行超过 130 亿参数的生成式 AI 模型,面向 70 亿参数大模型每秒生成 30 个 token,AI 处理速度是竞品的 4.5 倍。预计从 2024 年中期开始,就会有 OEM 厂商会推出搭载 Snapdragon X Elite 的 PC。对于正在搞大模型军备竞赛的科技公司来说,骁龙 X Elite 来得正是时候,随着 Copilot 能力马上就要加入 Windows 系统,很多即将变革 PC 交互方式的能力正在路上。我们的下一台电脑,也需要有能为生成式 AI 进行加速的芯片。
生成式 AI,究竟会带来怎样的变革?人们围绕大模型用例的讨论还在持续,高通 CEO 安蒙(Cristiano Amon)最近在与媒体的对话中,畅享了生成式 AI 加持的移动端设备会带来怎样的未来体验。使用生成式 AI,过去复杂的工作会变得更简单。人们可以无需打开专业软件,仅需发出口头指令就能让 AI 帮助快速剪辑视频中重复的语句,同时保持音画完美同步,仅需要一分钟就能够完成以前五个小时的工作量。部署在端侧的生成式 AI,也可以让电脑和手机了解用户的习惯和所处位置,利用情境信息让人先行一步。「假设我正在发短信,我说『很高兴参加这次活动,我还遇到了另一个人』,如果之前我遇到这个人时和他拍了合影。AI 就会在我提到这个人时给出提示,进入相册并识别出这张照片,」安蒙表示。
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。