AMD最近宣布收购MEXT。这对于群联电子来说非常令人振奋,因为它验证了我们对一个不断发展趋势的立场:业界正在重新定义NAND闪存在人工智能时代内存层次结构中不可或缺的作用。.
二十多年来,NAND闪存主要被定位为存储介质。然而,生成式人工智能的出现改变了这一行业格局。随着人工智能模型和键值缓存规模的不断增长,DRAM和HBM日益成为人工智能系统中成本最高、资源最稀缺的资源。因此,如何有效地将更多数据卸载到固态硬盘和闪存上,已成为整个行业的共同优先事项。.
日本文部科学省(MEXT)开发的这项技术是一种基于Linux系统的AI管理预测性交换机制。它能够识别冷数据并将其移至固态硬盘(SSD),从而为DRAM中的热数据腾出更多空间。其真正的优势在于能够准确预测哪些数据需要在需要之前返回内存,从而确保应用程序能够从DRAM中访问相关数据。然而,仅靠软件无法实现闪存对DRAM的全面增强;这需要与SSD供应商进行深度合作。.
MEXT 和 Pascari aiDAPTIV™ 技术互补,易于协作。MEXT 技术专注于面向广泛计算工作负载的预测性内存分层,而 aiDAPTIV 则利用 AI 工作负载感知内存管理,服务于推理和训练运行时环境。此外,Phison 在优化 SSD 针对 AI 内存和缓存工作负载的性能,以及将 AI 加速器直接集成到 SSD 中的工作,也为双方提供了合作机会。.
NAND闪存功能的不断扩展与NVIDIA CUDA库背后的理念不谋而合。从图形渲染、高性能计算(HPC)分析,到机器学习和生成式人工智能,每个新的CUDA库的推出都为GPU创造了新的应用场景,进一步提升了GPU的价值和市场需求。.
同样,群联电子的aiDAPTIV技术旨在持续提升闪存的利用率,并拓展其在系统中的应用场景。如果CUDA库的目标是拓宽GPU的应用场景,那么aiDAPTIV则有助于拓展闪存作为额外内存层的应用场景。.
群联电子开发了aiDAPTIV技术,可以帮助利用闪存有效地管理传统上需要DRAM或HBM的数据:
-
-
- AI模型训练和微调
- 利用专家卸载进行AI MoE推理,以减少内存占用
- AI推理KV缓存扩展和重用
- AI稳定扩散模型卸载和内存扩展
-
凭借这些功能,闪存超越了其传统的数据存储角色。它现在可以直接参与各种工作负载,例如在 Linux 和 Windows 系统上进行 AI 模型训练、推理、键值缓存管理以及生成式 AI 应用。aiDAPTIV 还支持多种处理单元(CPU、GPU、XPU),从而可以将闪存功能集成到各种计算架构中。.
这正是群联电子的优势所在。.
群联电子在NAND闪存行业深耕二十余年,积累了控制器、固件、可靠性和性能方面的深厚技术实力。同时,通过aiDAPTIV的研发,我们在AI训练、AI推理、键值缓存复用、生成式AI和内存扩展等多个场景下获得了丰富的实践经验。.
我们预计,像日本文部科学省(MEXT)这样的创新型软件公司将会涉足NAND闪存应用创新领域。群联电子将继续致力于与这些解决方案提供商紧密合作,共同拓展闪存的应用场景。我们将合作伙伴在软件和系统架构方面的创新能力与群联电子在闪存技术领域的深厚专业知识相结合,旨在共同打造极具竞争力的软硬件一体化解决方案。.
通过这种合作模式,群联电子不仅提供业界领先的NAND闪存可靠性和性能,还能帮助合作伙伴最大限度地发挥其软件技术的价值。最终,这使我们能够为客户提供性能、可靠性和总体拥有成本 (TCO) 之间最佳平衡的完整产品。.
正如 CUDA 不断扩展 GPU 的应用场景一样,群联电子也将通过扩展 aiDAPTIV 的功能,继续扩大闪存的应用范围。.
我们认为,NAND闪存未来最大的机遇不仅在于存储更多数据,更在于支持功能更强大、内存密集型的工作负载。这代表了闪存行业下一个重要的增长方向。.








