低成本、无负担 释放行动AI潜能

探索群联电子 与 MediaTek 如何重新思考内存架构，为智能手机解锁新世代 AI 潜能。

智能手机正迅速成为 AI 技术的重点发展平台。从早期仅具备基本装置端功能，到如今已能支持大型语言模型、多模态应用，以及更贴近使用者、可长时间运作的常驻式 AI 体验，行动 AI 正在迎来关键转变。

在本地端运行 AI，不仅能提升响应速度、降低对云端基础设施的依赖，也能让敏感数据保留在装置内部，强化隐私与安全性。同时，装置端 AI 更能实现实时、持续且具情境感知能力的互动体验，而这些能力往往难以单靠云端模型达成

行动 AI 正成为下一波平台革命

AI 正逐渐从云端移转至数据产生的地方，而智能手机正是最重要的载体之一。装置不再只是接收 AI 结果的终端，而是成为模型实时运行与推论的核心环境。

这样的转变，主要来自三大驱动力：
• 对低延迟实时体验的需求
• 对资料隐私与自主性的重视
• 大规模云端推论所带来的高昂成本

本地端 AI 恰好能同时满足这些需求——提供更快速的效能、将数据保留在装置内部，并降低对外部服务的依赖。
因此，全新的 AI 使用体验正在成形：能随时运作、具备情境理解能力，并能在背景持续执行任务。然而，行动 AI 的潜力与现今智能手机硬件真正能稳定支持的能力之间，仍存在明显落差。

限制行动生成式 AI 发展的关键因素

生成式 AI 对内存资源有极高需求。AI 模型在执行过程中，需要大量资源来储存模型参数、管理 token，并维持长上下文推论能力。而在智能型手机上，这些需求很快便会碰到物理限制。

常见的 AI 训练与推论方式，无论是在云端还是装置端，都面临挑战：

• • • 云端 AI 带来隐私、安全与持续性 token 成本问题
    • 对网络联机的依赖，造成延迟与可用性限制
    • 装置端 AI 受限于 DRAM 容量不足，以及扩充 DRAM 的高成本
    • 响应速度下降，直接影响使用者体验

这些限制迫使产业在成本、效能与体验之间做出艰难取舍。使用者不是依赖云端并接受其不足，就是尝试在本地端执行 AI，却又受限于内存与成本瓶颈。

若要真正推动下一代行动 AI，产业必须思考行动装置中的内存架构。

重新定义行动 AI 的内存架构

群联电子 与 MediaTek 携手合作，以全新的内存思维响应这项挑战。

这项联合解决方案结合 MediaTek 天玑9500 SoC 与群联 Pascari aiDAPTIV™ 技术，为智能型手机导入全新的 AI 推论架构，突破 DRAM 的限制。

从架构角度看，这套方案的核心理念简单并具突破性：

• • • 将 NAND 闪存纳入内存阶层架构
    • 透过智能中间件，动态管理不同内存层级之间的数据流动
    • 将内存与存储视为整合且协同运作的资源

aiDAPTIV™ 不再仅依赖 DRAM，而是将闪存作为延伸，大幅扩展 AI 工作负载可使用的内存空间。

其中的关键，在于 aiDAPTIV™ 内存管理中间件。它作为 SoC、DRAM 与 UFS存储之间的协调层，可动态将模型数据串流至适合的位置，有效打破内存与存储间的界线。

如此设计形成一种全新的混合式架构：
让常用 AI 数据可被智能快取，并将存储空间区分出系统数据与 AI 负载专用区域，透过动态调度与卸除机制，优化整体效能。

这代表智能型手机即使不大幅增加 DRAM，也能执行更大型模型、更长上下文，以及更复杂的 AI 推论任务。

透过群联电子与MediaTek，将内存从限制转化为优势

此项技术革新不但带来技术转变，并同时可量化了效益，直接响应行动 AI 的核心挑战。

降低 DRAM 需求
行动 AI 在支持进阶模型与 MoE（Mixture of Experts）架构时，通常需要 16GB 以上 DRAM。透过动态模型卸除与智能内存管理，aiDAPTIV™ 可在维持效能的同时，将需求降低至约 12GB。

降低系统成本并提升效率
透过NAND 闪存的成本优势，群联电子与联发科技的方案降低了对高成本 DRAM 的依赖，让装置设计更具成本效益，同时维持稳定效能。

支持更大型模型与更长的上下文
扩展后的内存资源，使智能型手机得以处理更复杂的模型与更长序列，进一步解锁更丰富的 AI 体验。

提升隐私与自主性
透过本地端推论，可降低对云端服务的依赖，将敏感数据保留在装置内部，并在无网络环境下持续提供 AI 功能。

为新一代行动 AI 奠定基础

此次合作的重要性，不仅在于提升效能，更在于重新定义智能手机支持 AI 的设计思维。

透过将内存与存储做整合架构，群联电子与MediaTek协手推进新一代智能型手机的产生：

• • • 在本地端运行更进阶的 AI 模型
    • 提供更快速、更实时的使用体验
    • 在效能、成本与功耗之间取得更佳平衡
    • 不增加硬件复杂度同时持续扩展 AI 效能

迈向真正自主、随时运行的边缘 AI 时代

展望未来

随着行动 AI 持续演进，内存将是决定 AI 发展上限的关键因素之一。如何重新思考内存架构与运作方式的技术，将定义下一波创新浪潮。

群联电子与MediaTek的合作，正为未来科技发展指出方向，为智能型手机开启更强大、更高效，也更普及的 AI 新时代。