コストや複雑さを増やすことなくモバイルAIを拡張する

PhisonとMediaTekが、スマートフォンにおける次世代AIを実現するために、メモリアーキテクチャをどのように再考しているのかをご覧ください。.

スマートフォンはAIの主要プラットフォームになりつつある。当初は端末上の基本的な機能から始まったAIは、大規模な言語モデル、マルチモーダルアプリケーション、そしてユーザーにより近い場所で常に利用できる体験へと急速に進化を遂げている。.

AIをローカルで実行することで、応答性が向上し、クラウドインフラへの依存度が低減され、機密データがデバイス上に保持されます。また、クラウドベースのモデルだけでは実現が難しい、リアルタイムで持続的なインタラクションも可能になります。.

モバイルAIは決定的なプラットフォームシフトである

AIはデータ生成の場へと移行しつつあり、それはますますスマートフォンを意味するようになっている。デバイスはもはやAIの出力の単なるエンドポイントではなく、モデルがリアルタイムで実行され、応答する環境へと変化しつつある。.

この変化は、低遅延の必要性、データに対するより高度な制御、そして大規模なクラウドベースの推論におけるコスト上昇という3つの圧力によって推進されています。ローカルAIは、より高速なパフォーマンスを実現し、データをデバイス上に保持し、外部サービスへの依存度を低減することで、これら3つの課題すべてに対応します。.

その結果、常にバックグラウンドで継続的に動作する、状況認識型の新しいタイプの体験が生まれる。その可能性は明らかだが、モバイルAIが約束するものと、今日のハードウェアが安定して実現できるものとの間には、依然としてギャップが存在する。.

モバイル生成AIの発展を阻む制約

生成型AIは本質的にメモリを大量に消費する。AIモデルを実行するには、パラメータの保存、トークンの管理、推論中のコンテキストの維持に相当なリソースが必要となる。スマートフォンでは、こうした要件はすぐに現実世界の制約にぶつかる。.

スマートフォン上であれクラウド上であれ、今日最も一般的なAIのトレーニングと推論の手法は、複数の面で課題を抱えている。

• • • クラウドベースのAIは、プライバシー、セキュリティ、および継続的なトークンコストに関する懸念を引き起こす。
    • 接続性への依存は、遅延や可用性の問題を引き起こす。
    • デバイス内アプローチは、メモリ容量の制限とDRAMのスケーリングコストの高さという課題を抱えている。
    • 応答速度が遅いと、ユーザーエクスペリエンスが低下する可能性があります。

こうした制約は、難しいトレードオフを生み出す。ユーザーは、クラウドに頼ってその限界を受け入れるか、デバイス上でAIを実装しようとしてパフォーマンスとコストの壁にぶつかるかのどちらかを選択しなければならない。.

今後前進するためには、モバイルシステムにおけるメモリの利用方法について、業界は異なるアプローチを取る必要がある。.

モバイルAIアーキテクチャへの新たなアプローチ

最近、PhisonとMediaTekは、メモリに関する根本的に異なる考え方でこの課題に取り組むため、提携しました。.

この共同ソリューションは、MediaTek Dimensity 9500 SoCとPhisonのPascari aiDAPTIV™ソリューションを組み合わせたもので、DRAMの制約を超えた、スマートフォン向けの新しいAI推論アーキテクチャを実現します。.

大まかに言えば、このアプローチはシンプルながら強力で、次のような特徴があります。

• • • DRAMに加えてNANDフラッシュを組み込むことで、メモリ階層を拡張する。
    • インテリジェントなミドルウェアを使用して、メモリ階層間でデータを動的に管理します。
    • メモリとストレージを統一された協調的なリソースとして扱う

aiDAPTIVは、DRAMだけに頼るのではなく、NANDフラッシュをワーキングメモリの拡張として活用することで、AIワークロードに利用可能なメモリ容量を大幅に拡大します。.

重要な役割を果たすのがaiDAPTIVメモリ管理ミドルウェアです。これはSoC、DRAM、UFSストレージ間の調整レイヤーとして機能し、必要な場所にモデルデータを動的にストリーミングすることで、メモリとストレージの境界を効果的に打破します。.

これにより、頻繁にアクセスされるAIデータがインテリジェントにキャッシュされ、ストレージがシステムデータとAIワークロード専用の領域に分割され、データが動的に再利用およびオフロードされてパフォーマンスが最適化されるハイブリッドアーキテクチャが構築されます。.

実際には、これはスマートフォンがDRAMを大幅に増やすことなく、より大きなモデル、より長いコンテキスト、より複雑な推論タスクを処理できることを意味します。.

PhisonとMediaTekの技術で、メモリを制約から利点へと変えましょう。

このアーキテクチャの転換は、モバイルAIの中核的な課題に直接対処する、測定可能なメリットをもたらします。.

DRAM要件の削減
一般的なモバイルAIの導入では、エキスパート混合モデル（MoE）を活用する場合など、高度なモデルやユースケースをサポートするために、16GB以上のDRAMが必要となる場合があります。aiDAPTIVのアプローチは、動的なモデルおよびMoEのオフロードとインテリジェントなメモリ管理により、パフォーマンスを維持しながら、これらの要件を約12GBまで削減できます。.

システムコストの削減と効率の向上
PhisonとMediaTekの共同ソリューションは、NANDフラッシュのコストメリットを活用することで、高価なDRAMのスケーリングの必要性を低減します。これにより、AI機能を犠牲にすることなく、よりコスト効率の高いデバイス設計が可能になります。.

より大きなモデルとより長いコンテキストウィンドウのサポート
拡張されたメモリ容量により、スマートフォンはより複雑なモデルやより長いシーケンスを処理できるようになり、より豊かで高性能なAI体験が可能になります。.

プライバシーと自律性の向上
推論をローカルで実行することで、クラウドインフラストラクチャへの依存度を低減し、機密データの保護に役立つとともに、インターネット接続がない場合でもAI機能を実現できます。.

次世代モバイルAIの基盤構築

このコラボレーションが非常に重要な理由の一つは、パフォーマンスの向上にあるが、それだけでなく、AIをサポートするためにスマートフォンシステムの設計方法に変化が生じるという点も大きい。.

メモリとストレージを統合した協調アーキテクチャにより、PhisonとMediaTekは、次のような機能を備えた新しいタイプのスマートフォンを実現しています。

• • • 高度なAIモデルをローカルで実行する
    • より高速で応答性の高いユーザーエクスペリエンスを提供します
    • 性能、コスト、電力効率のバランスを取る
    • ハードウェアの複雑さを増大させることなく、AIの機能を拡張する。

これは、真に自律的で常時稼働するエッジAIを実現するための基礎的な一歩です。.

今後の展望

モバイルAIが進化を続ける中で、メモリは今後も可能性を左右する最も重要な要素の一つであり続けるでしょう。メモリの構造と利用方法を根本的に見直すソリューションこそが、次のイノベーションの波を牽引するでしょう。.

PhisonとMediaTekの協業は、明確な将来方向性を示しています。メモリをボトルネックから拡張可能なリソースへと変革することで、スマートフォン上でより高性能で効率的、かつアクセスしやすいAI体験を実現する道が開かれます。.