Phison – ADLINK、NVIDIA GTC 2025でエッジAIとGen AIのイノベーションを推進

まとめ:

. . .

エッジにおける経済的な生成AIの加速
エッジデバイスにおける生成AIの導入は、大規模言語モデル(LLM)実行時のDRAM容量の制約によって制限されることがよくあります。NVIDIA Jetson AGX Orinを搭載したDLAP Supremeシリーズは、Phison aiDAPTIV+テクノロジによってAIのパワーを高め、トークン長の制限を効果的に克服し、推論速度を向上させます。例えば、NVIDIA Jetson AGX Orin 64GB構成を搭載したDLAP-411 Orin SupremeとLlama3.1-70B モデルでは、推論TTFTが52倍、トークン長が4倍向上しています。NVIDIA Jetson Orin Super Modeを搭載したDLAP Superシリーズは、AI TOPSが最大1.7倍、GenAIモデルのパフォーマンスが最大2倍向上した、堅牢でソフトウェア最適化されたフレームワークを提供します。DLAP SuperおよびSupremeシリーズは、エッジにおける生成AIアプリケーションの導入を加速することを目的としています。- morningstar.com

ソース: モーニングスター

イノベーションを加速する財団™

ja日本語