“群聯 已更新其 愛DAPTIV+ 「適用於本地環境的經濟實惠的 AI 訓練和推理解決方案。」客戶將能夠使用自己的資料對多達 80 億個參數的大型語言模型 (LLM) 進行微調。新的 aiDAPTIVLink 3.0 中間件提供了更快的首次標記 (TTFT) 呼叫時間,並延長了標記長度以獲得更豐富的上下文,從而提高了推理性能和準確性。一個 Maingear AI 筆記型電腦 該概念在 GTC 2025 上進行了演示,使用了 aiDAPTIVCache SSD、aiDAPTIVLink 中間件和基於 Pro Suite GUI 的 LLMOps 一體化功能集,包括攝取、微調、RAG、監控、驗證和推理。
它說 愛DAPTIV+ 是一種經濟實惠的 GPU 記憶體擴展功能,允許用戶在本地使用其資料訓練 LLM 「閉環」安全網絡,同時提供一個簡單的使用者介面來與數據進行互動並詢問有關數據的問題。透過 aiDAPTIV+ 實現的物聯網 AI 推理現已支援邊緣運算和機器人用例,並且已透過 Phison 對基於 Nvidia Jetson 的設備進行驗證。 」- blockandfiles.com