「群聯在GTC 2024 的展位上帶來了意想不到的驚喜:該公司演示了一個帶有四個GPU 的工作站,使用SSD 和DRAM 來擴展AI 工作負載的有效內存空間,使其能夠運行通常需要1.4TB VRAM 的工作負載,分佈在24 H100 GPU。該公司的新aiDaptiv+平台旨在透過使用系統DRAM和SSD來增加可用於訓練的GPU VRAM的數量,從而降低AI LLM培訓的門檻,群聯表示這將使用戶能夠以極低的成本完成密集的生成式AI培訓工作負載。僅使用標準 GPU 的成本,儘管以較低的入門成本換取了性能的降低,從而延長了訓練時間。”
來源: 湯姆的硬件