PHISON – 使用 SSD 降低 AI 訓練成本

作者 | 2025 年 5 月 10 日 | 群聯新聞

群聯電子憑藉其 aiDAPTIV+ LLM培訓一體化解決方案。不過,這個名字太長了,所以從現在開始我將簡單地使用 aiDAPTIV+ 這個詞。

. . .

群聯電子 (Phison) 決定將此原理應用於人工智慧 (AI)。他們的 aiDAPTIV+ 設計使用專用 SSD 來減少 LLM 訓練系統所需的 HBM DRAM 數量。

Phison 認為,系統所需的 GPU 數量取決於問題所需的 DRAM 大小。他們的觀點是,如果一個 GPU 擁有 80GB HBM,而且它正在運行一個需要 800GB 參數的模型,那麼你需要使用 10 個 GPU。 - pcper.com

來源: pcper.com

加速創新的基礎™

zh_TW繁體中文