Phison の新ソフトウェアは SSD と DRAM を使用して AI トレーニングの効率的なメモリを強化

「GTC 2024のPhisonのブースには、予想外のサプライズがありました。同社は、SSDとDRAMを使用してAIワークロードの有効メモリスペースを拡張し、通常24個のH100 GPUに分散した1.4TBのVRAMを必要とするワークロードを実行できる、4つのGPUを搭載した単一のワークステーションをデモしました。同社の新しいaiDaptiv+プラットフォームは、システムDRAMとSSDを使用してトレーニングに使用できるGPU VRAMの量を増やすことで、AI LLMトレーニングの障壁を下げるように設計されています。Phisonによると、これにより、ユーザーは標準GPUを使用する場合の数分の1のコストで、強力な生成AIトレーニングワークロードを達成できるようになりますが、導入コストが低い代わりにパフォーマンスが低下し、トレーニング時間が長くなります。」

ソース:  トムのハードウェア

イノベーションを加速する財団™

ja日本語