低成本、無負擔 釋放行動AI潛能

探索群聯電子 與 聯發科技 如何重新思考記憶體架構，為智慧型手機解鎖新世代 AI 潛能。

智慧型手機正迅速成為 AI 科技的重點發展平台。從早期僅具備基本裝置端功能，到如今已能支援大型語言模型、多模態應用，以及更貼近使用者、可長時間運作的常駐式 AI 體驗，行動 AI 正在迎來關鍵轉變。

在本地端運行 AI，不僅能提升回應速度、降低對雲端基礎設施的依賴，也能讓敏感資料保留在裝置內部，強化隱私與安全性。同時，裝置端 AI 更能實現即時、持續且具情境感知能力的互動體驗，而這些能力往往難以單靠雲端模型達成。

行動 AI 正成為下一波平台革命

AI 正逐漸從雲端移轉至資料產生的地方，而智慧型手機正是最重要的載體之一。裝置不再只是接收 AI 結果的終端，而是成為模型即時運行與推論的核心環境。

這樣的轉變，主要來自三大驅動力：
• 對低延遲即時體驗的需求
• 對資料隱私與自主性的重視
• 大規模雲端推論所帶來的高昂成本

本地端 AI 恰好能同時滿足這些需求——提供更快速的效能、將資料保留在裝置內部，並降低對外部服務的依賴。
因此，全新的 AI 使用體驗正在成形：能隨時運作、具備情境理解能力，並能在背景持續執行任務。然而，行動 AI 的潛力與現今智慧型手機硬體真正能穩定支援的能力之間，仍存在明顯落差。

限制行動生成式 AI 發展的關鍵因素

生成式 AI 對記憶體資源有極高需求。AI 模型在執行過程中，需要大量資源來儲存模型參數、管理 token，並維持長上下文推論能力。而在智慧型手機上，這些需求很快便會碰到物理限制。

常見的 AI 訓練與推論方式，無論是在雲端還是裝置端，都面臨挑戰：

• • • 雲端 AI 帶來隱私、安全與持續性 token 成本問題
    • 對網路連線的依賴，造成延遲與可用性限制
    • 裝置端 AI 受限於 DRAM 容量不足，以及擴充 DRAM 的高成本
    • 回應速度下降，直接影響使用者體驗

這些限制迫使產業在成本、效能與體驗之間做出艱難取捨。使用者不是依賴雲端並接受其不足，就是嘗試在本地端執行 AI，卻又受限於記憶體與成本瓶頸。

若要真正推動下一代行動 AI，產業必須思考行動裝置中的記憶體架構。

重新定義行動 AI 的記憶體架構

群聯電子 與 聯發科技 攜手合作，以全新的記憶體思維回應這項挑戰。

這項聯合解決方案結合聯發科技天璣9500 SoC 與群聯 Pascari aiDAPTIV™ 技術，為智慧型手機導入全新的 AI 推論架構，突破DRAM 的限制。

從架構角度看，這套方案的核心理念簡單並具突破性：

• • • 將 NAND Flash 納入記憶體階層架構
    • 透過智慧中介軟體，動態管理不同記憶體層級之間的資料流動
    • 將記憶體與儲存視為整合且協同運作的資源

aiDAPTIV™ 不再僅依賴 DRAM，而是將快閃記憶體作為延伸，大幅擴展 AI 工作負載可使用的記憶體空間。

其中的關鍵，在於 aiDAPTIV™ 記憶體管理中介軟體。它作為 SoC、DRAM 與 UFS 儲存之間的協調層，可動態將模型資料串流至適合的位置，有效打破記憶體與儲存間的界線。

如此設計形成一種全新的混合式架構：
讓常用 AI 資料可被智慧快取，並將儲存空間區分出系統資料與 AI 負載專用區域，透過動態調度與卸載機制，最佳化整體效能。

這代表智慧型手機即使不大幅增加 DRAM，也能執行更大型模型、更長上下文，以及更複雜的 AI 推論任務。

透過群聯電子與聯發科技，將記憶體從限制轉化為優勢

此項技術革新不但帶來技術轉變，並同時可量化了效益，直接回應行動 AI 的核心挑戰。

降低 DRAM 需求
行動 AI 在支援進階模型與 MoE（Mixture of Experts）架構時，通常需要 16GB 以上 DRAM。透過動態模型卸載與智慧記憶體管理，aiDAPTIV™ 可在維持效能的同時，將需求降低至約 12GB。

降低系統成本並提升效率
透過NAND Flash的成本優勢，群聯電子與聯發科技的方案降低了對高成本 DRAM 的依賴，讓裝置設計更具成本效益，同時維持穩定效能。

支援更大型模型與更長的上下文
擴展後的記憶體資源，使智慧型手機得以處理更複雜的模型與更長序列，進一步解鎖更豐富的 AI 體驗。

提升隱私與自主性
透過本地端推論，可降低對雲端服務的依賴，讓敏感資料保留在裝置內部，並在無網路環境下持續提供 AI 功能。

為新一代行動 AI 奠定基礎

此次合作的重要性，不僅在於提升效能，更在於重新定義智慧型手機支援 AI 的設計思維。

透過將記憶體與儲存做整合架構，群聯電子與聯發科技攜手推進新一代智慧型手機的產生：

• • • 在本地端運行更進階的 AI 模型
    • 提供更快速、更即時的使用體驗
    • 在效能、成本與功耗之間取得更佳平衡
    • 不增加硬體複雜度同時持續擴展 AI 效能

邁向真正自主、隨時運行的邊緣 AI 時代。

展望未來

隨著行動 AI 持續演進，記憶體將是決定 AI 發展上限的關鍵因素之一。如何重新思考記憶體架構與運作方式的技術，將定義下一波創新浪潮。

群聯電子與聯發科技的合作，正為未來科技發展指出方向，為智慧型手機開啟更強大、更高效，也更普及的 AI 新時代。