科技實地考察日 對於群聯團隊來說是一個巨大的成功,他們透過與受邀行業嘉賓小組的一系列演講分享了公司最新的人工智慧和資料儲存創新。
現在,您可以透過 Tech Field Day 的點播簡報影片了解群組電子分享的所有內容。深入了解背後的創新 Pascari 企業 SSD 和 愛DAPTIV+,看看我們如何塑造儲存和人工智慧的未來。
使用 Phison aiDAPTIV+ 進行經濟實惠的本地 LLM 培訓和推理
Phison 解決方案和產品行銷總監 Brian Cox 解釋瞭如何 群聯aiDAPTIV+技術 可以顯著降低在本地訓練AI模型的成本。該解決方案透過使用快閃記憶體作為快取將 LLM 從 GPU 卡卸載到容量更大的 SSD 上。這使組織能夠處理更大的模型和流程, 使用更少的昂貴 GPU 卡來訓練 AI。它還使那些無法承擔大公司數百萬美元設定的組織更容易獲得內部部署的人工智慧專案。
這徹底改變了 GPU 處理的經濟性。現在,您可以加載最大的模型,並隨著行業不斷發展而輕鬆擴展。快閃記憶體讓您能夠做到這一點,而且價格實惠。因此,這不再只是財富 500 強企業的專利,中小型企業、州和地方政府以及大學現在也能負擔得起自己的 AI 基礎設施,運行自己的模型,應用他們的研究成果。它讓全社會都能享受 AI 的民主化。
觀看示範
使用 Phison aiDAPTIV+ 進行 LLM 微調和推理的 GPU 記憶體卸載
群聯技術長 Sebastien Jean 深入研究 aiDAPTIV+技術 並且微調需要巨大的記憶體容量——比運行大型語言模型所需的記憶體高出 20 倍。他還解釋了 aiDAPTIV+ 解決方案的記憶體管理中間件和一體化 AI 軟體工具集元件,以及它們如何協同工作以使 SSD 能夠充當擴展記憶體池。
我們已經看到一些[LLM訓練]案例,參數數量達到6050億,甚至達到671億,2萬億也即將到來。而且我們看到,即使在高端市場,SSD也正在成為這項流程的一部分。我們的解決方案旨在確保能夠繼續支援這些更大規模的模型,因此我們實際上正在製造越來越高密度的SSD。
觀看示範
群聯電子推動企業級SSD市場創新
群聯電子美國總經理兼總裁 Michael Wu 闡述了群聯電子如何定位自己以滿足企業市場不斷變化的需求。如今,該公司憑藉其 Pascari 成為企業資料儲存領域的先鋒 企業級 SSD 產品組合。吳說 群聯電子對研發的承諾—佔其全球員工總數的 75% —以及控制器、韌體和硬體設計的垂直整合,使其始終處於 資料儲存創新.
「由於我們專注於工程設計,在每個產品細分市場的每個環節,我們始終致力於尋找最佳的市場路徑。我們始終是每個細分市場的領導者…W我們去年宣布了 [Pascari] 品牌,然後很快,在一年之內,我們宣布了最大的企業驅動器。我們現在領先許多球員。 」
觀看示範
Phison 的 Pascari Enterprise SSD 產品組合
Phison 技術行銷總監 Chris Ramseyer 展示了 Phison 的 Pascari 企業級 SSD 產品組合。他主要的關注是 X系列,其設計充分考慮了超高性能,並解釋了 Pascari 如何憑藉其產品的性能和可靠性成為企業級 SSD 市場創新的典範。也討論了 SSD 的各種外形尺寸和優勢。
Pascari X200 是目前市面上速度最快的企業級固態硬碟。我們進行了獨立測試,證實了這一點。我們領先其他所有產品。 ……此外,新款 Pascari D205V 本質上是一款 128TB 的固態硬碟,比之前的產品提升了 400TB。把之前的 30TB 固態硬碟拆下來,換上新的 122TB 固態硬碟,伺服器容量立即增加了 2.2PB。在機架層面,容量幾乎達到了 60PB。速度真是太快了。
觀看示範