专为大模型打造!摩尔线程发布智算加速卡MTTS4000:支持48GB显存
12月19日消息,今天,摩尔线程发布了全新智算加速卡MTT S4000,训推兼顾专为大模型打造,单卡支持48GB显存。据介绍,MTT S4000采用了第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽,FP32性能为25TFLOPs、TF32性能为50TFLOPs、
12月19日消息,今天,摩尔线程发布了全新智算加速卡MTT S4000,训推兼顾专为大模型打造,单卡支持48GB显存。据介绍,MTT S4000采用了第三代MUSA内核,单卡支持48GB显存和768GB/s的显存带宽,FP32性能为25TFLOPs、TF32性能为50TFLOPs、
11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示,正努力围绕自主研发的统一系统架构GPU、MUSA软件平台,构建完善好用的MUSA应用生态。
6日讯,摩尔线程CEO张建中今日发布全员信称,近期整个国产GPU/AI芯片行业都受到了重创,在这个挑战与机遇并存的时间点,中国GPU不存在“至暗时刻”,只有星辰大海。“摩尔线程从始至终只有一项事业:打造中国最好的全功能GPU,任何事情都不会影响我们坚定走下去的决心。”张建中信中宣布将对摩尔线程进行组
摩尔线程联合无问芯穹宣布,双方在近日正式完成基于国产全功能GPU千卡集群的3B规模大模型实训。该模型名为“MT-infini-3B”,在摩尔线程夸娥(KUAE)千卡智算集群与无问芯穹AIStudio PaaS平台(https://cloud.infini-ai.com/aistudio)上完成了高效
摩尔线程科研团队近日发布了一项新的研究成果《Round Attention:以轮次块稀疏性开辟多轮对话优化新范式》,使得端到端延迟低于现在主流的Flash Attention推理引擎,kv-cache显存占用节省最多82%。
在被美国列入“实体清单”下,摩尔线程成功构建中国首个全国产千卡千亿模型训练的智算中心平台。钛媒体App获悉,12月19日下午,国内GPU(图形处理器)芯片设计公司摩尔线程在北京发布其首款大模型智算加速卡MTT S4000,以及专为千亿参数大模型
《科创板日报》11月9日讯(记者 李明明)GPU独角兽摩尔线程传来新动向。《科创板日报》记者通过查询国家企业信用信息公示系统发现,摩尔线程智能科技(北京)股份有限公司(下称“摩尔线程”)的市场主体类型在10月28日由其他有限责任公司变更为其他股份有限公司(非上市),该公司的注册资本由2441.3万元
据界面新闻,国内GPU初创公司摩尔线程发布全员信,宣布启动人员优化,预计将在本周内完成。“这是公司持续发展的必选项,但也是个艰难的抉择,希望可以得到大家的理解。”摩尔线程创始人兼CEO张建中在信中称。
5月29日消息,摩尔线程与国内领先的数据智能服务商滴普科技共同宣布,摩尔线程“夸娥”(KUAE)千卡智算集群与滴普企业大模型Deepexi v1.0已完成训练、推理适配,获得产品兼容互认证明。基于摩尔线程夸娥千卡智算集群,滴普科技成功完成了LLaMA2 700亿参数大语言模型的预训练测试。
12月19日报道,今日,摩尔线程首个全国产千卡千亿模型训练平台——摩尔线程KUAE智算中心揭幕仪式在北京成功举办,宣告国内首个以国产全功能GPU为底座的大规模算力集群正式落地。摩尔线程CEO张建中发表主题演讲中,发布大模型智算加速卡MTT S4000,