首页 > 内存

内存

  • 苹果发表论文，解决“在手机内存上运行大模型”

    据媒体报道，近日，苹果发布了一篇论文，介绍了一种可以再超出可用DRAM容量的设备上运行LLM（大语言模型）的方法。通过大幅提高内存使用效率，这项新研究支持有限容量的设备运行内存2倍大小的LLM，GPU

  • 8GB内存正在成为历史！AI手机加速大内存普及

    AI大模型的出现，让手机行业迈入了一个全新的时代，AI手机已成为大众关注的热点。于是，在很多人看来，2024年是AI手机元年，市场的竞争势必会越发激烈。与此同时，AI手机也会加速手机硬件的提升，大内存或许是其首要攻破的壁垒。8GB内存正在成为历史手机内存，指的是手机的运行内存，也就是我们选购手机时“

  • 锐龙78700G内存超上DDR5-9000！AI性能飙升

    2月2日消息，AMD刚刚发布的锐龙8000G APU最高支持DDR5-5200内存频率，但这只是官方规范，完全可以继续超。而且我们知道，内存频率、带宽约高，APU GPU/AI性能就会受益越大。

  • 降龙十八掌：这套优化transformer内存占用的组合技值得收藏

    以 PyTorch 的 Torchvision 库中的视觉 transformer 为基础，本文作者编写了大约 100 行代码的训练脚本，并且所有代码示例都可以在 GitHub 上找到。以下是本文将要介绍的技术名称：微调 vision transformer自动混合精度训练低精度训练Reduced

  • iOS18来了！苹果骚操作：本地AI功能至少要8GB内存劝退一众iPhone

    6月10日消息，据国外媒体报道称，苹果本地AI功能将至少需要8GB内存，这对于众多老iPhone而言不是好消息。报道中提到，iOS 18中的本地AI功能将需要至少8GB的内存，这意味着iPhone 15 Pro以上的设备和配备M1芯片的iPad将成为新系统的起点。按照知名分析师郭明錤的说法，苹果一直以来在iphone内存上升级的非常吝啬，这导致他们在开发其设备上的大模型语言模型（LLM）面临着严重的限制

  • 大算力时代,如何打破内存墙

    近年来，人工智能应用正经历一轮快速的发展与普及，而以ChatGPT等先进的大模型技术在此过程中起到了关键作用。这些模型对计算能力的需求不断攀升，催生了AI芯片设计的不断革新，进入了大算力时代。

热门文章