“まとめ:
- ジェネレーティブAIの障壁を打ち破る DLAP スーパーおよびシュプリームシリーズ エッジAIのパフォーマンスを向上させ、Phison aiDAPTIV+と エヌビディア ジェットソン・オリン スーパーモード。
. . .
エッジにおける経済的な生成AIの加速
エッジデバイスにおける生成AIの導入は、大規模言語モデル(LLM)実行時のDRAM容量の制約によって制限されることがよくあります。NVIDIA Jetson AGX Orinを搭載したDLAP Supremeシリーズは、Phison aiDAPTIV+テクノロジによってAIのパワーを高め、トークン長の制限を効果的に克服し、推論速度を向上させます。例えば、NVIDIA Jetson AGX Orin 64GB構成を搭載したDLAP-411 Orin SupremeとLlama3.1-70B モデルでは、推論TTFTが52倍、トークン長が4倍向上しています。NVIDIA Jetson Orin Super Modeを搭載したDLAP Superシリーズは、AI TOPSが最大1.7倍、GenAIモデルのパフォーマンスが最大2倍向上した、堅牢でソフトウェア最適化されたフレームワークを提供します。DLAP SuperおよびSupremeシリーズは、エッジにおける生成AIアプリケーションの導入を加速することを目的としています。- morningstar.com
ソース: モーニングスター