全栈全液定制化,助力算力升级宁畅让大模型“拎包入住”
潮新闻客户端 记者 张鑫
在2024年世界互联网大会乌镇峰会上,AI大模型成为了众多企业和嘉宾关注的焦点之一,其背后对于算力和能源的需求也在不断提升。
作为智能算力领域的重要参与者,宁畅集研发、生产、部署、运维一体,在本届互联网大会上携算力栈、W350工作站等产品参会,旨在让算力资源能够高效、精准地满足各类复杂业务场景,让大模型“拎包入住”。
受访者供图
算力栈+“精装算力”概念
助力大模型业务加速
在宁畅展台现场举行的演讲中,其指出,随着大模型逐步融入核心生产环节,智能计算呈现出场景复杂化,业务多元化,任务差异化等趋势。传统的“堆算卡、堆规模”的粗放型算力服务方式已难以满足实际应用的需求。全栈式服务成为能否为用户提供优质算力的重要标志之一。
面对这一挑战,宁畅从用户交付、部署、应用、运维最优体验出发,提出了算力服务的全新思路。依托定制化、全栈全液基础能力,结合实际业务需求,定制企业级算力中心及行业级解决方案,始终为用户提供全体系软硬协同的精细化算力服务。以确保算力资源能够高效、精准地满足各类复杂业务场景,让大模型“拎包入住”。
算力栈作为企业级/行业级算力中心交付形态,以底层硬件到顶层应用平台的系统化方案,构建全面智能计算环境,满足大模型落地所需的计算、存储、网络、建设、管理、应用及液冷等需求。硬件层上,可实现多种交付形态灵活组合;软件层上,为模型提供并行加速、性能分析、开发优化等服务支持,助用户极速推进大模型应用开发及管理,加速业务效率。
目前,位于浙江桐乡的全国首个算力栈已吸引了超千次申请试用,获得众多行业客户认可。
此外,宁畅更是提出“精装算力”概念。据了解,精装算力是依托宁畅定制化与全栈全液能力,以算力栈为交付形态,从用户需求与体验出发,提供全体系软硬协同的精细化算力服务,助力大模型业务提速。
助力能效提升
揭秘液冷背后“黑科技”
随着大模型参数规模的提升,算力集群呈现高密度趋势,耗能与日俱增,液冷势在必行。宁畅作为业界少数能做到“真·原生全液冷”的企业,在世界互联网大会期间,对外开放了其位于桐乡的全系统液冷产线工厂,供与会者参观。
在液冷领域,宁畅拥有诸多首创性先进技术,可提供从服务器到机柜,再到智算中心等多形态的液冷选择。标准化、自动化与智能化的液冷产线工厂,展现了宁畅对液冷产品方面的先进制造能力和严格品质要求,进一步彰显了在液冷技术领域的硬核实力。
在服务器层面,宁畅首次突破性实现标准化、可移植、大解耦全冷板液冷服务器技术,冷板形式覆盖CPU、内存、硬盘、GPU、各种形态PCIe设备以及PSU等服务器内全部散热单元,实现了无风扇形态的原生全液冷服务器。采用宁畅原生全液冷技术,不仅液冷成本可控、运维方式与风冷无异,数据中心运行PUE值更可低至1.09,远低于业内风液混合形态冷板式服务器平均水平,实现了数据中心能效极致,最大限度释放冷空调电力加速算力提升。
受访者供图
在智算中心层面,宁畅提供了液冷、风冷或风液混冷等多种定制化建设方案,旨在根据客户的实际需求,灵活选择最适合的散热方式,从而在提升算力的同时,有效控制能耗。智算中心全液冷化,不仅提高了能效比,还确保了芯片在长时间高负载运行下的性能稳定输出,为大模型的训练和推理提供了坚实的支撑。
智算之光照亮乌镇,宁畅将继续依托定制化与全栈全液能力,以全体系软硬协同的精细化算力服务,有力支撑大模型应用落地,加速千行百业数智化的步伐。
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。