首页 > 快讯 > 华为云人工智能总裁云尤鹏:大模型实践中面临十大难题

华为云人工智能总裁云尤鹏:大模型实践中面临十大难题

新火种    2023-12-23
23日讯,在2023华为云AI院长峰会上,华为云大数据与人工智能领域总裁尤鹏总结了大模型实践过程中的十大难题:在训练上,面临着万卡/十万卡集群分布式训练及可靠性的挑战;在推理上,需解决面向LLM长文本生成的高效解码的挑战;在高效资源利用方面,面临着AI集群碎片资源利用及全局作业最优调度的难题;在大模型压缩方面,需解决高效量化及无损量化评测标准及技术方案的难题。此外,还需解决:行业训练数据安全可控、可用不可得,大模型幻觉缓解甚至消除及可解释性,如何构建具备强大逻辑推理与规划能力的大模型,基于图数据的大模型知识增强技术,通用结构化数据及时序数据特征对齐及预训练等难题。(记者 黄心怡)
相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。