群創汽車在展會上佔了重要地位。 五月的人工智慧基礎設施技術日活動, 在會議上，我們討論了人工智慧推理和模型訓練的挑戰，並向與會者介紹了我們的 aiDAPTIV+ 解決方案。.
您可以點播觀看我們每位群聯領導人的完整會議視頻，, TechStrong TV 最近製作了一段「導演精選」影片剪輯，並在 Tech Field Data Insider 網路研討會上進行了展示。在這段剪輯中，您可以了解以下演講的要點，以及專家小組的評論和討論：
-
-
- 由 Phison 解決方案和產品行銷總監 Brian Cox 撰寫的關於使用 Phison aiDAPTIV 進行經濟實惠的本地 LLM 培訓和推理的文章
- 群聯電子技術長 Sebastien Jean 介紹：利用群聯 aiDAPTIV 實現 LLM 微調和推理的 GPU 記憶體卸載。
-
在本網路研討會中，您將學習如何在本地硬體上解鎖大型語言模型訓練，降低 AI 基礎設施成本，並在無需任何程式碼變更的情況下實現私有的本地 AI。.
常見問題 (FAQ)：
Phison參與AI基礎設施技術實踐日的重點是什麼？
群聯科技重點在於機構在本地部署人工智慧推理和模型訓練時面臨的實際挑戰。會議討論了GPU記憶體限制、基礎設施成本障礙以及在本地運行大型語言模型的複雜性。群聯科技也介紹了 愛達普替夫 作為控制器級解決方案，旨在簡化 AI 部署，同時減少對高成本 GPU 記憶體的依賴。.
TechStrong TV 的「導演精選」網路研討會是什麼？
TechStrong TV 精心剪輯了 Phison 技術日活動的精彩片段，並以「科技日內幕」網路研討會的形式呈現。這種形式提煉了最有價值的技術見解，並包含專家小組的評論，使 IT 和研發領導者無需觀看完整會議即可輕鬆掌握架構方面的關鍵資訊。.
本次網路研討會邀請了哪些 Phison 的演講嘉賓？
本次網路研討會重點介紹了群聯電子的兩位技術領導者：
- 布萊恩考克斯, 解決方案和產品行銷總監，負責經濟實惠的本地 LLM 培訓和推理。.
- 塞巴斯蒂安·讓, 首席技術官，他解釋了使用 aiDAPTIV 進行 LLM 微調和推理的 GPU 記憶體卸載技術。.
為什麼本地部署人工智慧對大學和研究機構如此重要？
本地部署的人工智慧使機構能夠維護資料主權、滿足合規性要求並保護敏感的研究資料。它還能降低長期雲端成本，並為用於研究、教學和內部營運的人工智慧工作負載提供可預測的效能。.
本次網路研討會主要討論了哪些基礎設施挑戰？
主要挑戰包括GPU記憶體容量有限、基礎設施成本不斷攀升以及本地部署和管理LLM的複雜性。這些限制往往阻礙機構將人工智慧計畫從試點計畫擴展到更廣泛的應用。.
Phison aiDAPTIV 如何實現經濟實惠的本地 AI 訓練和推理？
Phison aiDAPTIV 在控制器層面使用高效能 NVMe 儲存擴充 GPU 記憶體。這使得大型模型能夠在現有硬體上運行，而無需額外的 GPU 或專門的編碼，從而顯著降低了本地 AI 部署的成本門檻。.
「GPU記憶體卸載」在實際應用上意味著什麼？
GPU記憶體卸載功能讓AI工作負載在GPU記憶體飽和時透明地使用NVMe儲存。對於研究人員和IT團隊而言，這意味著無需重新設計流程或重寫程式碼即可訓練或微調更大的模型。.
aidDAPTIV 是否需要對現有的 AI 框架或程式碼進行更改？
不。 aiDAPTIV 在系統和儲存層中運行，無需修改模型程式碼或 AI 框架即可擴展 AI 工作負載。這對於使用成熟研究工作流程的學術團隊來說尤其有價值。.
該方案如何幫助控制人工智慧基礎設施預算？
aiDAPTIV 透過減少對昂貴的高容量 GPU 的依賴，並提高現有硬體的利用率，從而降低資本支出並延長系統壽命。這使得預算有限的機構也能更輕鬆地運行高階 AI 工作負載。.
高等教育利害關係人為何應該觀看本次網路研討會？
本次網路研討會提供了一套切實可行的方案，指導如何大規模部署私有本地人工智慧。它深入剖析如何降低成本、提高資源效率，以及如何在不依賴雲端服務商的情況下安全地進行人工智慧研究和實驗。.
繁體中文 
English 
简体中文 
日本語 
Deutsch 
한국어