「ファイソンはこのキャンペーンをリードしています aiDAPTIV+ LLMトレーニング統合ソリューションただし、名前が長すぎるので、ここからは単に「aiDAPTIV+」という言葉を使います。
. . .
そこでPhison社は、この原理をAIに適用することにしました。彼らのaiDAPTIV+設計は、専用のSSDを使用することで、LLMトレーニングシステムに必要なHBM DRAMの量を削減しました。
Phisonは、システムに必要なGPUの数は、問題に必要なDRAMのサイズによって決まると主張しています。彼らの主張によれば、GPUのHBMが80GBで、800GBのパラメータを必要とするモデルを実行する場合、GPUを10個使用する必要があるということです。- pcper.com
ソース: pcper.com