Phison aiDAPTIV+: ハイブリッドAIソリューション – LLMトレーニング用にSSDキャッシュとGPUを組み合わせ

「ハイブリッドAIハードウェアソリューションにより、中小企業は従来の制限を超えて、大幅に大規模なAIモデルをトレーニングすることができ、 ラマ-3 70B そして ファルコン180Bシームレスに統合されており、 GPUメモリ、活用 aiDAPTIVキャッシュ 低レイテンシ処理向け。また、高耐久性も備えている。 100 DWPDのAI100E SSD 耐久性の評価。さらに、 セキュリティ、導入の容易さ、コスト削減aiDAPTIV+は、 AIアプリケーション オンプレミスのデータ制御とスケーラブルなモデルトレーニングを必要とする業界向け。

この設計により、組織は次のような複雑なモデルをトレーニングできるようになります。 ラマ-2 7B 低レイテンシ処理と高耐久性ストレージを確保しながら、標準の市販ハードウェア上で (100 DWPD) SLC NAND搭載.

. . .

同社によれば、同社は OSレベルのスワッピング使用頻度の低いデータはRAMからストレージにオフロードされ、アクティブなプロセスのためにメモリを解放します。同様に、aiDAPTIV+は高速で大容量の AI100E M.2 SSD として aiDAPTIVキャッシュGPUメモリを効果的に拡張します。エンジニアはこれらのSSDをAIワークロードの高負荷に対応できるよう特別に最適化し、効率的なデータ管理とシームレスなモデルトレーニングを実現します。- electronics-lab.com

ソース: エレクトロニクスラボ

イノベーションを加速する財団™

ja日本語