首页 > AI资讯 > 行业动态 > 腾讯发布新一代大模型“混元Turbo”:推理成本下降50%效率提升100%

腾讯发布新一代大模型“混元Turbo”:推理成本下降50%效率提升100%

新火种    2024-09-05

9月5日消息,在腾讯全球数字生态大会上,腾讯集团副总裁、云与智慧产业事业群COO、腾讯云总裁邱跃鹏宣布发布新一代的大模型——腾讯混元Turbo。

腾讯发布新一代大模型“混元Turbo”:推理成本下降50% 效率提升100%

新一代的大模型基于MoE(Mixture of Experts)架构设计,相较于前一代产品混元Pro,在推理效率上实现了翻倍,达到了100%的提升,同时在推理成本上实现了显著降低,降幅达到50%。

此外,混元Turbo在解码效率方面也表现出色,有着20%的提升。

价格方面,混元Turbo相较于前一代产品降低了50%,输出价格为0.05元/千tokens,输入价格为0.015元/千tokens。

据了解,在中文大模型测评基准SuperCLUE发布《中文大模型基准测评2024年8月报告》中,混元新一代大语言模型预览版(Turbo-Preview)在理科、文科均居于第一名。

Hard任务上腾讯混元Turbo-Preview取得74.33分,是国内唯一超过70分的大模型,与ChatGPT-4o有微小差距。

腾讯发布新一代大模型“混元Turbo”:推理成本下降50% 效率提升100%

目前,腾讯内部已有众多业务及场景接入了混元大模型,包括腾讯元宝、腾讯云、QQ、微信读书等。

腾讯旗下协作SaaS(软件即服务)产品也已全面接入腾讯混元大模型。

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。