首页 > 会议 > AI大模型测评:半块RTX4090玩转700亿(70B)大语言模型

AI大模型测评:半块RTX4090玩转700亿(70B)大语言模型

新火种    2024-05-28

AI大模型测评

DATE:2024.05.30

        19:00--21:00

在人工智能的浪潮中,开源大语言模型(LLM)持续引领着技术创新的潮流。本次开放夜,我们将深入探索AI大模型与高性能显卡的结合,特别是在本地运行大型AI模型的能力。

01

探讨话题

随着AI技术的飞速发展,本地化部署AI模型的需求日益增长。为了满足这一需求,我们特别邀请了B站知名科技UP主AlphaArea,他将携带整套设备,现场展示如何流畅运行并测评包括llama3-70B, Qwen1.5-72B在内的多个开源AI大模型。

专业测评:AlphaArea将现场测评AI大模型运行性能。

模型体验:深入体验Llama3-70B, Qwen1.5-72B等开源AI模型的运行。

技术深度:分享如何通过有限预算满足AI大模型的显存和算力需求。

并行技术:探讨如何充分利用多卡算力加速AI运行。

成本分析:展示如何以较低成本实现高性能AI模型运行的解决方案。

互动体验:现场观众将有机会近距离观察和体验AI模型的运行过程。

02

分享嘉宾

AlphaArea_

03

活动信息

时间:5月30日  周四  19:00-21:00

地点:上海市浦东新区郭守敬路498号 

        浦东软件园 4号楼1楼 蘑菇云创客空间

出行建议:

开车出行

园区内不对外开放停车,驾车来访的朋友们请将车辆停在居里路的划线停车位,沿居里路步行至郭守敬园西门进入园区。

公共交通

请从地铁2号线金科路站的3号出口出站(十字路口过两次马路),沿金科路步行10分钟即可抵达郭守敬园的5号门进入园区。

入口识别标志:卷帘门

蘑菇云创客空间大门入口位于4号楼面向8号楼的街道位置,门头是具有创客风格的卷帘门。

— END —

Tags:
相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。