Phison 的新软件使用 SSD 和 DRAM 来提升 AI 训练的有效内存

作者 | 2024年3月27日 | 群联新闻

“Phison 在 GTC 2024 上的展位带来了意想不到的惊喜:该公司演示了一台配备四个 GPU 的工作站,使用 SSD 和 DRAM 来扩展 AI 工作负载的有效内存空间,使其能够运行通常需要 1.4TB VRAM 分布在 24 个 H100 GPU 上的工作负载。该公司的新 aiDaptiv+ 平台旨在通过使用系统 DRAM 和 SSD 来增加可用于训练的 GPU VRAM 数量,从而降低 AI LLM 训练的门槛,Phison 表示,这将使用户能够以仅使用标准 GPU 的一小部分成本完成密集的生成 AI 训练工作负载,尽管较低的入门成本是以降低性能和延长训练时间为代价的。”

来源:  汤姆的硬件

加速创新的基础™

zh_CN简体中文