大規模モデルの微調整における隠れたコスト：GPUを増やすことが必ずしも解決策ではない理由

大規模なAIモデルの微調整では、計算能力が限界に達する前にGPUメモリが制約となることがよくあります。この記事では、重み、オプティマイザの状態、勾配、活性化関数がメモリ需要を左右する理由、GPUを追加することが高価な回避策となる理由、そしてPascari aiDAPTIV™がGPUメモリ、DRAM、フラッシュメモリにわたってAIの実効メモリをどのように拡張するかについて説明します。.

ファインチューニングにおけるGPUコストの上昇要因を詳しく見ていき、その解決策となる別の方法を探ってみましょう。.

組織が微調整を行うにつれて より大型のモデル, すると、おなじみのパターンが繰り返し現れます。ジョブに必要なGPUの数は、ジョブが実際に必要とする計算能力よりも速いペースで増加しているように見えるのです。チームは微調整の実行規模を算出し、それを実現するために必要なものを調べ、制約となっているのは処理能力ではなく、メモリであることに気づきます。. 

微調整にこれほど多くのメモリが必要な理由

モデルの微調整には、モデルの重みを格納するスペースだけでなく、トレーニング状態のためのスペースも必要になります。そのため、トレーニング状態がどこに配置されるのかを詳しく見ていくことが重要です。. 

オプティマイザの状態は通常、最も大きな追加要素となります。ほとんどのファインチューニング作業でデフォルトとして使用されるAdamとその派生版は、モデル内のすべてのパラメータについて、勾配の1次モーメントと2次モーメントの両方の推定値を常に保持します。実際には、これは、精度や、モデルが混合精度で実行される場合でもオプティマイザの状態を完全な精度で保持するかどうかによって、オプティマイザだけでモデルの重み自体の2～4倍のメモリ使用量が必要になることを意味します。. 

勾配は、パラメータ数と同じ数のパラメータをコピーして追加します。アクティベーションは、順伝播中に計算され、逆伝播中に使用されるように保持される中間出力であり、モデルサイズだけでなくバッチサイズとシーケンス長に応じてスケーリングされます。そのため、小さなバッチサイズでは問題なく処理できるジョブでも、バッチサイズやコンテキスト長が増加すると、突然メモリ不足に陥ることがあります。. 

これら（重み、オプティマイザの状態、勾配、活性化）を積み重ねると、モデルの微調整に必要なメモリ使用量は、ディスク上のモデルチェックポイントのサイズの5～10倍にもなります。小規模なモデルであれば、このオーバーヘッドは容易に吸収できます。しかし、パラメータ数が数百億に達すると、必要なメモリ量は、どんなに高性能なGPUであっても、1つのGPUが保持できる容量をすぐに超えてしまいます。 記憶の圧力, これは計算能力の不足ではなく、トレーニング実行が開始される前に明らかになります。. 

デフォルトの解決策は、GPUを追加することです。

組織がこのような壁にぶつかった場合、本能的な対応策はGPUの数を増やすことです。テンソル並列処理、パイプライン並列処理、完全シャーディングデータ並列（FSDP）トレーニングなどの手法を用いて、モデル、オプティマイザの状態、およびアクティベーションを複数のGPUに分散させれば、クラスタの統合メモリが単一のGPUでは処理しきれない負荷を吸収します。これは論理的な動きであり、広く支持されています。なぜなら、最新のトレーニングフレームワークのほとんどは、メモリ制約はデバイスを追加することで解決できるという前提に基づいて構築されているからです。. 

このアプローチは効果的であり、モデルのトレーニング規模拡大に伴い、ファインチューニング用のGPUクラスタが成長してきた理由もそこにあります。30Bまたは70Bのパラメータを持つモデルをファインチューニングする必要があるチームは、8個または16個のGPUを使用しますが、これは演算自体にそれほどの並列計算能力が必要というわけではなく、十分な総メモリ容量を確保するためにそれだけの数のGPUが必要となるためです。. 

しかし、この方法で実際に何が解決されているのかを少し考えてみる価値はある。追加のGPUは、主にジョブの計算スループットの向上を目的として追加されているわけではない。GPUメモリがたまたま容量拡張に利用できる唯一の手段であり、ほとんどのハードウェアではメモリと計算能力が一体として販売されているため、追加されているのだ。メモリを増やしたい？必要かどうかに関わらず、計算能力も増える。. 

このアプローチが限界に達するところ

このバンドル化は、実際に測定可能なコストを生み出します。微調整ジョブが計算能力ではなくメモリによって制限されている場合（これは、特にバッチサイズが小さいジョブやシーケンス長が長いジョブでよく見られます）、メモリ問題を解決するために導入された追加のGPUは、ほとんど使用されない計算能力を備えています。ジョブがそもそも計算能力によって制約されていなかったため、クラスターの実際の処理能力のかなりの部分が、ジョブが理論的に使用できる能力に比べてアイドル状態になっているにもかかわらず、利用状況ダッシュボードは紙面上では妥当に見えることがあります。. 

これはGPUの購入価格だけでなく、コスト構造全体に影響を及ぼします。GPUを追加するたびに、その演算能力がフル活用されているかどうかに関わらず、システムの消費電力と冷却負荷が増加します。ラックの設置スペースやネットワークファブリックの要件も増加します。さらに、プロビジョニング、監視、保守が必要なデバイスも増えます。メモリが本当に必要だったという意味では、これらの支出は無駄ではありませんが、支払われている金額のかなりの部分は、実際には必要とされなかった演算能力に対するものです。. 

これは構造的な問題であり、より良い計画やより賢明な調達の問題ではありません。メモリとコンピューティングがハードウェアレベルで結び付けられている限り、 メモリ容量 必要のない計算能力に対しても料金を払い続けることになり、モデルが大きくなり、トレーニング状態のメモリと生のモデルサイズの比率が大きくなるにつれて、その差は拡大する傾向があります。. 

メモリ容量について考える別の方法

ここで、メモリをGPUハードウェアから分離するというアプローチが真に異なるものとなり、それがPascari aiDAPTIVの背後にある考え方です。. 

ファインチューニング処理に利用できる唯一のリソースプールとしてGPUメモリを扱うのではなく、このソリューションはaiDAPTIVミドルウェアとaiDAPTIVキャッシュメモリを組み合わせ、GPUメモリ、システムDRAM、専用フラッシュベースキャッシュメモリの3つの階層にわたってAIメモリの有効範囲を拡張します。ミドルウェアはトレーニングフレームワークとこの拡張されたメモリプールの間に位置しており、高速GPUメモリに今すぐ保持する必要があるものと、DRAMまたはフラッシュに移動して必要になったときに再び取り戻せるものをリアルタイムで判断します。モデルの重み、オプティマイザの状態、アクティベーションなど、本来であれば保存場所を確保するためだけにGPUを追加で必要とするデータは、このより大きな有効プールに分散され、GPUが計算を継続するために必要なデータを確実に保持できるように調整されます。. 

実質的な効果としては、微調整処理のメモリ使用量が、GPU単体の物理的なメモリ容量だけで制限されなくなったことです。以前は十分なメモリ容量を確保するためにGPU数を増やす必要があったワークロードも、今ではそのハードウェアのごく一部で実行できるようになりました。なぜなら、メモリの上限はもはやGPUハードウェア単体では設定されず、GPUメモリ、DRAM、キャッシュメモリが連携して動作する合計容量によって決まるからです。. 

この変化には、個別に指摘する価値のある具体的な影響がいくつかある。 

インフラコストの削減  
GPUの数が少なくなれば、初期費用のハードウェア購入額やレンタルスペースが削減され、それらを接続するためのネットワークファブリックも少なくなり、プロジェクト期間全体を通してプロビジョニングとメンテナンスを行う必要のある展開規模も小さくなります。.

ピーク電力と冷却要件の低減  
特定の瞬間にアクティブになるGPUが少ないため、ピーク 消費電力と冷却負荷 展開に伴うエネルギー消費量もそれに応じて減少します。これは、作業全体のエネルギー消費量が少ないという主張とは異なるため、正確に理解しておく必要があります。ピーク負荷、つまり施設が一度にサポートしなければならない最大負荷は減少します。作業を完了するのにかかる総エネルギーは別の計算であり、実行時間が長くなるため、必ずしも少なくなるわけではありません。aiDAPTIV が変更するのは、特定の微調整実行における総エネルギー料金ではなく、プロビジョニングする必要のあるフットプリントのサイズです。.

正直に言って、本当のトレードオフだ  
実際の計算を行うGPUの数が少なく、DRAMとフラッシュメモリ間でデータを移動するのに、GPUメモリ内で完全に実行されるジョブでは発生しない時間がかかるため、これらの実行は、メモリ容量が十分な大規模GPUクラスタで実行する場合よりも時間がかかります。これは回避策や隠れたコストではなく、直接的なトレードオフです。GPUの設備投資コスト、可用性、または物理的な設置面積が制約要因であり、そのための実行時間の増加が許容できるコストである組織にとっては、これは単純なトレードオフであり、そうでなければはるかに大規模なハードウェア投資が必要となるワークロードの微調整が可能になります。GPUの数が制約要因になったことがない、厳しい納期で作業しているチームにとっては、切り替えを行う前にこのトレードオフを慎重に検討する価値があります。.

より大きなモデルを、より大きな費用をかけずに微調整できます。

メモリ問題を解決するためにGPUを拡張するという発想は理解できます。これは最も一般的なアプローチであり、成熟したツールによって支えられています。しかし、この発想が実際にはメモリ制約に対する高価な回避策であり、計算能力の制約ではないことを認識しておくことが重要です。しかも、そのコスト構造はワークロードの実際の計算能力のニーズよりも速く拡大します。aiDAPTIVのようなアプローチは、これとは異なる道を示しています。メモリ容量を直接解決し、GPUの数を計算能力の真のニーズに合わせて調整し、完了時間の明確なトレードオフを意図的に受け入れることでインフラストラクチャへの投資を削減できるのです。.

詳細はこちら Pascari aiDAPTIV または パスカリの営業担当者にお問い合わせください 今日。.

よくある質問（FAQ）：