Phison aiDAPTIV+:混合 AI 解決方案 – 結合 SSD 快取和 GPU 進行 LLM 訓練

作者 | 2025年3月3日 | 群聯新聞

「混合人工智慧硬體解決方案讓中小企業訓練更大的人工智慧模型,突破先前的限制,擴展到 駱駝-3 70B 和 Falcon 180B。它具有與 GPU記憶體,利用 快取 用於低延遲處理。它還包括高耐力 AI100E SSD,DWPD 為 100 耐用性評級。此外,重點關注 安全性、易於部署且節省成本,aiDAPTIV+ 非常適合 人工智慧應用 在需要本地資料控制和可擴展模型訓練的行業中。

這種設計使組織能夠訓練複雜的模型,例如 駱駝-2 7B 在標準現成硬體上,同時確保低延遲處理和高耐用性存儲 (100 DWPD)採用 SLC NAND.

. . .

據該公司稱,他們擁有一種類似於 作業系統級交換,其中不常用的資料從 RAM 卸載到記憶體,以釋放用於活動進程的記憶體。同樣,aiDAPTIV+ 採用高速、高容量 AI100E M.2固態硬碟 作為 快取,有效擴展GPU記憶體。工程師專門優化了這些 SSD,以滿足 AI 工作負載的密集需求,確保高效的資料管理和無縫的模型訓練。 ”-electronics-lab.com

來源: electronics-lab.com

加速創新的基礎™

zh_TW繁體中文