群创汽车在展会上占据了重要地位。 五月份的人工智能基础设施技术日活动, 在会上，我们讨论了人工智能推理和模型训练的挑战，并向与会者介绍了我们的 aiDAPTIV+ 解决方案。.
您可以点播观看我们每位群联领导人的完整会议视频，, TechStrong TV 最近制作了一段“导演精选”视频剪辑，并在 Tech Field Data Insider 网络研讨会上进行了展示。在这段剪辑中，您可以了解以下演讲的关键要点，以及专家小组的评论和讨论：
-
-
- 由 Phison 解决方案和产品营销总监 Brian Cox 撰写的关于使用 Phison aiDAPTIV 进行经济实惠的本地 LLM 培训和推理的文章
- 群联电子首席技术官 Sebastien Jean 介绍：利用群联 aiDAPTIV 实现 LLM 微调和推理的 GPU 内存卸载。
-
在本网络研讨会中，您将学习如何在本地硬件上解锁大型语言模型训练，降低 AI 基础设施成本，并在无需任何代码更改的情况下实现私有的本地 AI。.
常见问题 (FAQ)：
Phison参与AI基础设施技术实践日的重点是什么？
群联科技重点关注机构在本地部署人工智能推理和模型训练时面临的实际挑战。会议讨论了GPU内存限制、基础设施成本障碍以及在本地运行大型语言模型的复杂性。群联科技还介绍了 爱达普替夫 作为控制器级解决方案，旨在简化 AI 部署，同时减少对高成本 GPU 内存的依赖。.
TechStrong TV 的“导演精选”网络研讨会是什么？
TechStrong TV 精心剪辑了 Phison 技术日活动的精彩片段，并以“技术日内幕”网络研讨会的形式呈现。这种形式提炼了最具价值的技术见解，并包含专家小组的评论，使 IT 和研发领导者无需观看完整会议即可轻松掌握架构方面的关键信息。.
本次网络研讨会邀请了哪些 Phison 的演讲嘉宾？
本次网络研讨会重点介绍了群联电子的两位技术领导者：
- 布莱恩·考克斯, 解决方案和产品营销总监，负责经济实惠的本地 LLM 培训和推理。.
- 塞巴斯蒂安·让, 首席技术官，他解释了使用 aiDAPTIV 进行 LLM 微调和推理的 GPU 内存卸载技术。.
为什么本地部署的人工智能对大学和研究机构如此重要？
本地部署的人工智能使机构能够维护数据主权、满足合规性要求并保护敏感的研究数据。它还能降低长期云成本，并为用于研究、教学和内部运营的人工智能工作负载提供可预测的性能。.
本次网络研讨会主要讨论了哪些基础设施挑战？
主要挑战包括GPU内存容量有限、基础设施成本不断攀升以及本地部署和管理LLM的复杂性。这些限制往往阻碍机构将人工智能项目从试点项目扩展到更广泛的应用。.
Phison aiDAPTIV 如何实现经济实惠的本地 AI 训练和推理？
Phison aiDAPTIV 在控制器层面使用高性能 NVMe 存储扩展 GPU 内存。这使得大型模型能够在现有硬件上运行，而无需额外的 GPU 或专门的编码，从而显著降低了本地 AI 部署的成本门槛。.
“GPU内存卸载”在实际应用中意味着什么？
GPU内存卸载功能允许AI工作负载在GPU内存饱和时透明地使用NVMe存储。对于研究人员和IT团队而言，这意味着无需重新设计流程或重写代码即可训练或微调更大的模型。.
aidDAPTIV 是否需要对现有的 AI 框架或代码进行更改？
不。aiDAPTIV 在系统和存储层运行，无需修改模型代码或 AI 框架即可扩展 AI 工作负载。这对于使用成熟研究工作流程的学术团队来说尤其有价值。.
该方案如何帮助控制人工智能基础设施预算？
aiDAPTIV 通过减少对昂贵的高容量 GPU 的依赖，并提高现有硬件的利用率，从而降低资本支出并延长系统寿命。这使得预算有限的机构也能更轻松地运行高级 AI 工作负载。.
高等教育利益相关者为何应该观看本次网络研讨会？
本次网络研讨会提供了一套切实可行的方案，指导如何大规模部署私有本地人工智能。它深入剖析了如何降低成本、提高资源效率，以及如何在不依赖云服务商的情况下安全地开展人工智能研究和实验。.
简体中文 
English 
繁體中文 
日本語 
Deutsch 
한국어