低成本人工智能：大学如何在不耗尽资金的情况下进行创新

经济高效且可持续的高等教育人工智能计划指日可待。.

人工智能在日常生活中日益普及，在高等教育领域扮演着更为重要的角色。世界各地的大学都在积极利用人工智能分析学生的成功模式、简化复杂的运营流程，并推动研究领域的创新突破。然而，尽管人们对人工智能的兴趣和应用日益增长，预算却往往跟不上。这正是大多数高校每年都面临的现实困境。.

建设和运营 具备人工智能功能的基础设施, 人工智能涵盖从图形处理器 (GPU)、服务器到存储和电力等方方面面，即使是技术最前沿的机构也可能不堪重负。由此便产生了常见的争论：学术界的支持者认为人工智能是保持技术领先地位的关键，而采购人员则认为这项投资遥不可及。.

许多学校试图通过云端积分或一次性试点项目来解决这一难题，结果却眼睁睁地看着成本飙升。另一些学校则尝试本地部署，但却遭遇资金限制或可持续性方面的难题，或者两者兼而有之。这背后的根本问题是，大学需要一条切实可行的途径来推进人工智能发展，同时又不至于耗尽其拨款。.

正是在这里，更智能的存储和数据流能够带来显著优势。当你像重视计算能力一样重视数据流动时，人工智能的经济格局将彻底改变。.

阅读：利用新一代固态硬盘加速 RAG 工作流程

GPU、存储和能源才是真正的成本驱动因素

大学在规划人工智能时，往往将注意力集中在GPU上，因为它是技术栈中最显眼、成本最高的部分。但这并非全部成本。实际成本还取决于计算、存储和能源的相互作用，尤其是在高耗能人工智能领域。GPU的效能取决于…… 为其提供数据管道, 任何环节的效率低下都会导致性能下降和预算浪费。.

以下是导致人工智能成本上升的三大罪魁祸首，以及更智能的基础设施规划如何发挥作用。.

空闲计算时间
人工智能工作负载往往呈爆发式运行。模型训练期间，GPU 全速运转，但在训练间隙，它们通常处于闲置状态。为了应对这些高峰而过度采购高端 GPU 卡，会导致昂贵的硬件在一年中的大部分时间里闲置。.

存储拖拽
数据瓶颈 这是人工智能架构中隐藏的成本。如果存储层无法足够快地提供数据，GPU 就会停滞不前，加速性能方面的投资就会付诸东流。许多学校根本没有意识到，等待数据到达会造成多大的进度损失（或资金损失）。.

电力和冷却
电力和冷却是主要的预算项目，因为人工智能消耗大量能源。计算、数据传输或存储过程中的任何低效环节都会增加总负载，从而推高整个园区的能源成本。.

归根结底，控制 AI 成本部分取决于计算能力，但同样重要的是要考虑数据流以及如何使工作负载在整个堆栈中尽可能高效地运行。.

当存储真正成为人工智能的瓶颈时

想象一下，校园里的生物医学工程实验室正在训练一个人工智能模型，用于检测视网膜扫描图像中的糖尿病早期迹象。每张图像可能高达数百兆字节，而单个数据集可能包含数万个文件。GPU 的运算能力足以以闪电般的速度分析文件，但如果这些图像存储在传统的硬盘驱动器 (HDD) 阵列或速度较慢的共享存储设备上，GPU 就会花费一半的时间等待数据加载。.

等待的时间就意味着资金的白白流失。每一秒的闲置都会消耗能源，缩短硬件的使用寿命。如果将这种浪费乘以多个部门和多个项目周期，其规模将十分惊人。.

关键在于重新思考数据流。现代人工智能基础设施使用 高带宽 SSD 缓存 为了将频繁访问的数据更靠近需要它的处理器，从而显著降低延迟。当数据路径保持满负荷运转时，GPU 可以保持充分利用，无需添加昂贵的新硬件即可提升性能。更重要的是，更智能的存储架构可以让中端 GPU 以极低的成本实现媲美顶级处理器的性能。.

阅读：选择合适的 AI 模型格式，节省时间、提升性能并构建更智能的项目

经济实惠的人工智能框架：优化、合理规模、加速

构建更具成本效益的人工智能基础设施并不意味着要偷工减料。恰恰相反，它更侧重于提升技术栈每一层的效率。以下原则可以帮助您构建合适的、经济实惠的人工智能框架：

 1. 优化数据存储

传统的IT架构将存储视为被动的外围组件，或仅仅是存放数据直到需要使用时才使用的地方。但现代AI工作流程依赖于主动存储，这种存储旨在预测需求并最大限度地减少数据移动。.

通过将高速 NVMe SSD 直接集成到数据路径中，频繁访问的数据集可以更靠近计算节点，而冷数据则可以存储在成本更低的存储层上。最终实现更低的延迟、更快的访问速度和更低的功耗。.

一些高级缓存系统甚至会分析 I/O 模式，预测接下来可能访问的文件，并自动预加载它们。这种智能分层确保计算资源始终得到高效利用，从而避免了存储层无法跟上访问速度时经常出现的性能下降。.

2. 合理配置计算资源和GPU资源

人工智能的性能并非仅仅取决于机构拥有多少GPU，更重要的是如何有效地利用这些GPU，尤其是在高等教育环境中。许多研究团队发现，一旦数据流得到优化，他们就能用更少但更高效的处理器实现相同的性能。.

如今的工作负载管理工具能够根据项目优先级或模型大小动态分配计算资源。这意味着更少的空闲时间、更低的能耗和更可预测的成本。在校园环境中，共享计算池和虚拟化集群使多个部门能够协作利用现有基础设施，而无需为每个实验室购买冗余系统。.

这种合理规模的思维方式将GPU采购从资本支出问题转变为运营支出模式，从而更好地符合高等教育的财政现实。.

3. 利用边缘处理加速

许多学校都能证明，越来越多的研究项目产生的数据远离集中式数据中心。无论是现场传感器、无人机还是实验室仪器，现在都会产生数TB的信息。 边缘. 试图将所有这些字节都传回核心进行处理会浪费带宽和时间。.

以人工智能为中心的新型架构将部分计算和分析任务推向数据生成位置附近。紧凑型边缘设备和本地固态硬盘阵列现在能够在向上游发送关键结果之前，对信息进行过滤、预处理或压缩。.

这种现代化的方法降低了回程成本，减少了延迟，加快了数据洞察速度，为环境科学、医疗诊断和物联网研究等高校学科带来了关键优势。此外，它还通过将敏感或受监管的数据严格限制在机构边界内，加强了数据治理和隐私保护。.

人工智能创新民主化

人工智能不应仅限于那些拥有企业级预算或专用超级计算中心的顶尖大学。每一所高等学府，无论规模大小、公立或私立，都应该有机会探索人工智能、推进相关研究，并为学生迎接数字时代做好准备。.

挑战在于如何以较低的成本实现高性能计算。直到最近，GPU、存储阵列和能源消耗的成本还使得先进的人工智能研究除了资金最雄厚的项目外，几乎无人能够负担得起。但这种情况正在改变。.

现代数据架构重新定义了计算的可能性。通过将数据更靠近计算资源、优化存储路径并实现性能管理自动化，大学可以利用现有基础设施获得媲美GPU的性能。这些进步将效率转化为公平，更重要的是，使更多高校（而不仅仅是少数高校）能够开展人工智能实验。.

这正是群联电子背后的愿景。 aiDAPTIV™平台. 旨在扩展高性能计算的应用范围，, aiDAPTIV™ 帮助机构扩展LLM模型训练能力，降低硬件支出，并完全掌控敏感的研究数据。它采用基于SSD的缓存和智能数据编排技术，充分利用计算资源，即使是中端GPU也能提供稳定、高速的性能。.

通过缩小成本与能力之间的差距，群联电子正在帮助高等教育机构更广泛地获取人工智能创新成果。过去需要耗资数百万美元建设集群才能实现的突破性进展，如今可以在大学数据中心、区域研究实验室甚至校园边缘地带实现。.

阅读：PHISON——革新人工智能存储：从登月任务到普及人工智能基础设施

群联电子在提供实用、强大且价格合理的AI方面发挥着重要作用

作为全球最大的独立 NAND 闪存控制器和存储模块供应商，群联电子数十年来一直致力于提升数据通路的性能，而数据通路的性能至关重要。.

这 aiDAPTIV™ 该平台在此基础上发展而来，将存储从被动的成本中心转变为主动的性能加速器。通过优化数据在 CPU、GPU 和 SSD 之间的传输方式，, aiDAPTIV™ 交付：

• • • 通过最大限度地利用现有GPU投资，最多可节省40%亿美元的资本支出。
    • 通过减少电力和冷却需求来降低运营成本
    • 加快跨学科研究团队的人工智能训练周期
    • 针对敏感或受监管工作负载的安全本地数据控制

对于那些希望在不超支的情况下实现人工智能基础设施现代化的大学而言，, aiDAPTIV™ 提供了一条清晰、行之有效的前进道路。.

阅读：大学如何引领下一波人工智能创新浪潮

今天就构建您的人工智能未来

学术界对人工智能的研究应以想象力和策略为基础，这与课堂教学的原则相同。有了合适的存储基础架构，大学既能在预算限制下利用GPU级别的性能，又能加速创新并实现可衡量的成本节约。.

常见问题 (FAQ)：