首页 > AI资讯 > 最新资讯 > 高通提出云边一体混合AI路径!受益上市公司梳理

高通提出云边一体混合AI路径!受益上市公司梳理

新火种    2023-09-21

6月23日讯(编辑 若宇)高通近日发布AI白皮书称,混合AI是AI的未来,将支持生成式AI应用开发者和提供商利用边缘侧终端的计算能力降低成本。混合AI架构或仅在终端侧运行AI,能够在全球范围带来高性能、个性化、隐私和安全等优势。此外,混合AI架构可以根据模型和查询需求的复杂度等因素,选择不同方式在云端和终端侧之间分配处理负载。

image

(图源:高通中国官方微信公众号)

据高通混合AI白皮书,在混合AI场景中,边缘大模型是云端大模型的感知器官,例如用户对手机说话,自动语音识别(ASR)AI模型如Whisper在设备上转换语音为文本,发送到云端,云端运行大模型,回发文本答案。

在进阶版本中,设备AI更进一步保护隐私,承担更多处理,提供更个性化的提示给云:通过设备学习和个人数据,设备创建用户个人形象,与调度程序协作,基于上下文提供更好的提示;例如,用户要求手机预约和朋友在最爱餐厅吃饭,对简单查询,较小的大模型可在设备上运行无需云交互,如果用户需要复杂信息,则本地将需求转化为提示发给云端大模型并返回详细答案。

image

高通指出,随着强大的生成式AI模型不断缩小,以及终端侧处理能力的持续提升,混合AI的潜力将会进一步增长。参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更高参数的模型将能够在终端上运行。混合AI策略适用于几乎所有生成式AI应用和终端领域,对推动生成式AI规模化扩展,满足全球企业与消费者需求至关重要。

中信建投阎贵成等人6月15日研报表示,AIGC大模型及应用爆红,拉动算力需求。在万物互联大部分场景中,云端处理存在时延较长、成本较高、并且涉及数据隐私等问题,边缘AI算力的引入至关重要。我们认为未来AI算力将综合考虑硬件能力、成本等因素,以混合AI的架构,在边端和云端灵活分配。

据了解,混合AI指的其实是云端和设备端共同处理AI计算,借助设备端的即时感知、即时处理优势,来填补云端AI在延迟方面的短板,同时还通过云端的超高算力,来弥补端侧AI性能的缺憾。

高通中国区董事长孟樸表示,混合AI势不可挡,助推AI规模化发展。在孟樸看来,从过去20年AI的发展,到最近大语言模型的发展、交互式AI的发展,所有这些都推动了整个产业的快速发展。可以看到,人们使用的电子设备,不论是手机,还是冰箱、彩电等,越来越多地实现了智能化和网联化,所有这些终端产品都产生了大量的数据,而且都具备情景感知的特点。

据不完全整理,在混合AI领域有所布局或有所合作的A股上市公司包括江南化工、天准科技、首都在线和优刻得等,具体情况如下:

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。