大學如何引領下一波人工智慧創新浪潮

高等教育機構正成為大規模人工智慧應用的試驗場。它們能否取得最大的突破，將取決於能否有效率地移動和管理大量資料。.

人工智慧 人工智慧曾經是超大規模科技巨頭的專屬領域。但如今，一股新的創新浪潮正在大學校園中湧現，電腦科學家、生物學家、氣候學家和社會研究人員正並肩工作，將人工智慧應用於應對世界面臨的最大挑戰。.

如今的學術資料中心與其說是傳統的IT部門，不如說是人工智慧創業孵化器。它們正在建構和訓練模型，這些模型能夠更快地解碼DNA，更準確地模擬全球天氣系統，甚至揭示經濟和人類行為中隱藏的社會模式。.

與商業企業不同，大學追求的是開放合作，而非專有優勢。但這種開放性也伴隨著諸多限制，包括預算緊張、不斷變化的合規要求，以及需要支持數百個研究團隊之間千差萬別的工作負載。事實上，許多大學現在都已成為人力智慧優先的超級運算實驗室，在資源有限的情況下，探索人工智慧技術發展的無限可能。.

挑戰在於，雖然大學在人工智慧領域產生的創新比以往任何時候都多，但它們的儲存和資料架構的發展速度並不總是與它們的運算雄心同步。.

三個研究領域對資料吞吐量有著極高的要求。

如今學術機構內部的資料激增現象顯著、規模龐大，並且正在各個學科領域加速發展。無論是基因組定序、氣候建模或社會數據分析，每個領域都面臨著同樣的挑戰：如何以足夠快的速度傳輸數據，以確保研究成果的持續發現。.

基因組學—生命科學領域的數據洪流

一個人類基因組大約包含30億個鹼基對。即使對少量樣本進行測序，也會產生PB級的原始數據，這些數據必須被寫入、存儲，並反覆存取才能用於人工智慧驅動的分析。.

頂尖大學的研究團隊正在將基因組學與機器學習結合，用於預測疾病風險、模擬蛋白質折疊並制定精準醫療方案。這些工作負載會引發數百萬次的小型讀寫請求，給儲存帶來巨大壓力，因此，即使是最快的GPU，如果數據管道無法有效率地為其提供數據，也會閒置。.

資料傳輸過程中每延遲一毫秒，就意味著運行時間延長、運算成本增加，以及科學研究進度放緩。最終目標是提高吞吐量，使研究人員能夠提前數週甚至數月發現醫學新發現。.

氣候建模－模擬整個星球

學術氣候模式通常運行在擁有數千個運算核心的高效能運算 (HPC) 叢集上，每個核心即時處理衛星影像、大氣資料和海洋觀測資料。單次運行每小時可產生數 TB 的時間序列數據，所有這些數據都必須進行寫入、檢索和可視化，以驗證其準確性。.

當I/O吞吐量不足時，研究人員不得不簡化模型，降低解析度、省略變數或縮短模擬窗口，這會影響科學精度。高速儲存使大學能夠運行更深入、更複雜的模擬，從而改善長期預測和氣候適應策略。.

社會科學巨型資料集—大數據的人文層面

在社會科學領域，「大數據」的概念已煥發出新的活力。經濟學家和社會學家正利用數十年的人口統計、流動性和行為數據來訓練人工智慧模型，以研究不平等、健康結果、政策有效性等問題。這些資料集可能結構化程度低、碎片化且包含敏感資訊。.

性能在這裡也至關重要。當分析師能夠快速迭代時，他們就能檢驗更多假設，並近乎即時地視覺化社會趨勢。但大學必須在速度與隱私和主權之間取得平衡，尤其是在處理受嚴格合規規則約束的個人識別資訊或跨境資料集時。.

閱讀：改變人工智慧的三大趨勢

基礎設施缺口：僅靠GPU是不夠的

過去幾年，許多大學競相擴建其 GPU叢集 為了實現人工智慧加速，GPU 的蓬勃發展背後隱藏著一個棘手的問題：這些加速器無法加速它們無法快速存取的資料。.

人工智慧工作負載對資料的需求量極大。它們讀寫數百萬個小文件，在記憶體中頻繁切換參數，並不斷地在固態硬碟 (SSD)、動態記憶體 (DRAM) 和 GPU 記憶體之間移動資料。如果儲存層無法跟上，即使是最強大的 GPU 也只能被動等待。這就像給性能和能源效率徵收了一種隱形的稅。.

這就是為什麼許多學術集群儘管擁有令人印象深刻的硬件，但性能卻不盡如人意的原因。瓶頸往往出現在意想不到的地方：

• • • 傳統 NAS 和速度較慢的物件儲存會限制多節點 I/O 效能。.
    • 儲存層分散，研究團隊使用任何可用的硬件，造成數據不一致。.
    • 預算有限，優先考慮運算節點而非現代儲存架構。.

其結果是資料流動與資料處理不符。大學不能僅僅透過增加GPU來解決這個問題。他們需要更聰明的方法來控制資料在整個人工智慧流程中的流動。.

閱讀：更聰明的邊緣AI時代來臨：AVerMedia和Phison攜手合作，利用aiDAPTIV+為Jetson設備注入強大動力

利用群聯電子優化儲存並降低成本

其中一種更明智的方法是： 群聯電子的先進技術 以及專為大學等資料密集型環境中的高吞吐量 AI 工作負載而建置的 aiDAPTIV+ 解決方案。.

群聯電子的 SSD 控制器技術重新定義了運算與儲存之間的關係。它不再將 SSD 視為被動的儲存庫，而是支援在儲存層直接進行資料移動和預處理。透過將某些 AI 和 I/O 操作卸載到更靠近資料所在位置的層級，aiDAPTIV+ 顯著降低了延遲和 GPU 空閒時間。.

它的工作原理是：

• • • GPU 卸載 – aiDAPTIV+ 智慧地將資料管道的部分功能（例如預取、壓縮或索引）從 GPU 轉移到 SSD 層。.
    • 動態資料路徑－它能夠即時優化 I/O 流，確保每個資料集都能根據工作負載強度選擇最快的路徑進行傳輸。.
    • 在地化和控制－敏感的研究資料保留在本地或大學的私有雲中，在維持合規性和資料主權的同時，也能實現接近超大規模的效能。.

Phison aiDAPTIV+ 是一款交鑰匙解決方案，可協助企業進行訓練和推理。 大型語言模型（LLM） 以他們能夠負擔的價格，在本地部署。它透過整合組織自身的數據來增強基礎邏輯學習模型（LLM），從而更好地進行決策和創新。機構可以在本地訓練和推理任意規模的模型，並且可以輕鬆擴展或橫向擴展節點，以增加訓練規模、縮短訓練時間並提高推理能力。.

借助群聯電子的 SSD 控制器技術和 aiDAPTIV+，高等教育機構可以在不超支運算資源的情況下實現更快的模型訓練和分析。.

查看：Phison aiDAPTIV+解決方案

aiDAPTIV+ 為學術研究帶來實際益處

影響 愛DAPTIV+ aiDAPTIV+ 正在逐步改變大學處理資料密集型研究的方式。透過彌合儲存和 GPU 效能之間的差距，大學可以加快獲得洞見的速度，並更有效地利用研究預算。從基因組定序實驗室到地球建模團隊，aiDAPTIV+ 將更聰明的數據傳輸轉化為可衡量的成果。.

• • • 透過減少資料準備時間和最大限度地提高小文件工作負載的 IOPS，加速基因組學工作流程。.
    • 更高解析度的氣候模擬，具有可在多節點高效能運算環境中擴展的持續吞吐量。.
    • 透過優化非結構化資料集處理並確保人工智慧管道中的資料一致性，加快社交資料處理速度。.
    • 由於效能提升來自於更智慧的儲存編排，而不是不斷擴展 GPU，因此研究運算的總成本更低。.

aiDAPTIV+ 將儲存轉化為效能引擎，使大學能夠利用現有資源進行更多科學研究。.

展望未來：從研究到實際影響

大學 從網路和CRISPR技術到現代人工智慧的基礎，地球一直是變革性創新的搖籃。如今的變化在於規模。資料集更大，模型更複雜，對基礎設施的需求也比以往任何時候都更加苛刻。.

隨著人工智慧成為各學科的標準工具，大學將在塑造其負責任和永續的使用方式方面發揮日益重要的作用。這就需要兼顧效能、效率和資料控制的平台。.

aiDAPTIV+ 有助於彌合科學研究願景與基礎設施現況之間的差距。它使大學能夠更快、更環保、更安全地運行人工智慧工作負載，使研究人員能夠減少等待數據的時間，並將更多精力投入科研發現。.

基因組學、氣候韌性和社會創新領域的下一個突破，將不再取決於誰擁有最大的GPU集群，而是取決於誰能以最聰明的方式移動和管理數據。群聯電子很榮幸能為這項未來提供動力，協助將數據轉化為改變世界的突破性發現。.

常見問題 (FAQ)：