AI大模型测评:半块RTX4090玩转700亿(70B)大语言模型
AI大模型测评
DATE:2024.05.30
19:00--21:00
“
在人工智能的浪潮中,开源大语言模型(LLM)持续引领着技术创新的潮流。本次开放夜,我们将深入探索AI大模型与高性能显卡的结合,特别是在本地运行大型AI模型的能力。
01
探讨话题
随着AI技术的飞速发展,本地化部署AI模型的需求日益增长。为了满足这一需求,我们特别邀请了B站知名科技UP主AlphaArea,他将携带整套设备,现场展示如何流畅运行并测评包括llama3-70B, Qwen1.5-72B在内的多个开源AI大模型。
专业测评:AlphaArea将现场测评AI大模型运行性能。
模型体验:深入体验Llama3-70B, Qwen1.5-72B等开源AI模型的运行。
技术深度:分享如何通过有限预算满足AI大模型的显存和算力需求。
并行技术:探讨如何充分利用多卡算力加速AI运行。
成本分析:展示如何以较低成本实现高性能AI模型运行的解决方案。
互动体验:现场观众将有机会近距离观察和体验AI模型的运行过程。
02
分享嘉宾
AlphaArea_
03
活动信息
时间:5月30日 周四 19:00-21:00
地点:上海市浦东新区郭守敬路498号
浦东软件园 4号楼1楼 蘑菇云创客空间
出行建议:
开车出行
园区内不对外开放停车,驾车来访的朋友们请将车辆停在居里路的划线停车位,沿居里路步行至郭守敬园西门进入园区。
公共交通
请从地铁2号线金科路站的3号出口出站(十字路口过两次马路),沿金科路步行10分钟即可抵达郭守敬园的5号门进入园区。
入口识别标志:卷帘门
蘑菇云创客空间大门入口位于4号楼面向8号楼的街道位置,门头是具有创客风格的卷帘门。
— END —
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。