研調機構 TrendForce 週五(20 日)舉辦《CompuForum 2025 智鏈驅動 ,釋放 AI 算力》 ,邀請華碩電腦、數位無限、群聯電子與美超微(Supermicro)及集邦技术解读師等專家開講,聚焦 AI 伺服器新近架構趨勢與供應鏈創新應用,爱华外汇平台登录解读市場變革以及供應鏈技術 、需求及新近商機 。
除了論壇精彩外,這次資料儲存大廠希捷(Seagate)、是德技术「Keysight Technologies」正式授權經銷商克達技术,以及智慧錄音裝置品牌 PLAUD.AI 也前來參展 ,复制公司新近的產品和解決计划。
華碩不只是硬體供應商,也是軟體供给者,結合 NVIDIA 在內先進技術和軟硬體產品 ,打造一整套解決计划。爱华外汇官方网站
企業導入 AI 必須面對資料集 、硬體架構、後端串接 AI 软件及需要 AI 知識的專業人才進行流程這 4 個門檻 ,發展 AI 應用缺一不可。
為此 ,華碩归纳出應對方向,幫助企業順利導入 AI 。華碩電腦 AI / HPC 產品技術經理周煜軒舉例 ,如果客戶手上資料不足,透過以數位孿生為基礎的 NVIDIA Omniverse 可在虛擬環境創造資料集。企業需要了解自身需求並藉由 ASUS AI Factory 架構加以打造,還能利用 NVIDIA AI Enterprise 將上層軟體導入 ,就能上線服務供给用戶利用。
NVIDIA 今年倡导來 AI 工廠的概念,希望每家企業如果要導入 AI 都能建一個 AI 工廠,不只是安排 GPU 等硬體設備 ,更將資料集結合 AI 软件 ,在 ASUS AI POD 這樣的頂尖設備創造應用服務 ,供给用戶利用 。
從 GPU 叢集、儲存叢集、網路架構加上运维平台和應用軟體 ,華碩將軟硬體深度整合在一起 ,讓企業客戶透過單一介面做到运维和監控。
華碩如何做到伺服器叢集的XM外汇官网安排和檢測 ?今年推出 2 套軟體──ASUS Infrastructure Deploy Center(AIDC)和ASUS Control Center(ACC) ,前者透過一台設備進行大量安排,後者可監控硬體設備情況 。
隨著 AI 和算力需求提高,全球進入高效能 AI 建設時代,企業對高效能運算資源的需求激增,GPU 採購成本更較以往提升 10 倍 ,但實際應用是否能充分發揮其效益 ,成為企業面臨的核心挑戰。如何有效調度 GPU 資源、提高利用效率 ,已是 AI 基礎建設關鍵課題。
數位無限執行長陳文裕表示 ,AI 基礎設施不僅需考量算力與儲存配置,如何有效利用並發揮 AI 算力最大效果 ,成為关键方向 。若無法精準掌握利用狀況 ,將導致優先次序混亂 、難运维 、能見度不足、利用率低和成本高等問題 ,最終使客戶仍需投入更多 GPU 成本。
為解決上述挑戰 ,數位無限推出 AI Stack 平台,具備 GPU 切割與聚合技術 ,能將一張 GPU 切分為多個小單位或整合多張 GPU 應對大型 AI 模型訓練,實現資源動態分配與隔離运维,有效提高 GPU 利用率 ,減少資源閒置,並提高開發效率。
AI Stack 亦支援分散式訓練架構,可將任務分派至多個節點平行處理 ,顯著縮短模型訓練時間 。此外 ,平台具備即時排程與負載調度水平 ,可依各部門需求靈活調整 ,實現資源即釋即用、利用率最大化 。
陳文裕強調,透過 AI Stack ,企業不僅能將 GPU 利用率提高至 90%、工作負載執行效率提高 10 倍,更能將開發環境建置時間從兩週縮短至僅需 1 分鐘,整体強化 AI 導入效益與決策效率 ,富拓外汇交易降低投入門檻 ,對企業導入 AI 服務可說是必備的關鍵软件 。
由於 AI 伺服器硬體成本高昂,往往動輒數百萬,讓中小企業與教育機構望之卻步 ,加上資料上雲端存在資安疑慮 ,對此,群聯推出「aiDAPTIV+」解決计划,主打邊緣地端 AI 模型訓練與推論的工作站,成為低成本、可控又具效能的替代计划。
除了企業應用場景,群聯也將目光投向 AI 教育領域。群聯執行長潘健成表示,現在的大學生根本沒機會碰到 GPU ,因為太貴了。要普及 AI 教育,不能只是講理論 ,還要有實作機會 。群聯也表示,公司 AI Training PC(AI TPC) ,計畫安排至各大專院校,讓 AI 教學真正落地 。
美超微(Supermicro)解決计划架構師許銘德介紹 ,公司推出的資料中心建設模組化解方(DCBBS)被譽為 AI 資料中心最佳選擇 ,可滿足現代企業對高效能計算的需求 。
該解決计划幫助建置 AI 液冷資料中心更簡單 ,降低建置和營運成本 ,讓客戶能以最快的上市與上線速度輕鬆建構資料中心基礎設施 ,最快只需三個月即可完成安排 。此外,該计划涵蓋所有關鍵基礎設施元件 ,包括伺服器、儲存設備、網路、機架、液冷系統 、軟體 、服務與支援,可簡化並加速 AI 資料中心的建置 ,進而降低成本並提高品質。
TrendForce 集邦技术研究經理龔明德表示,預期 2025 年全球 AI 伺服器市場將持續強勁成長 ,全年出貨量上看 210 萬台 ,年增率高達 24.5% 。然而,地緣政治風險與美中法规變化仍是供應鏈最主要的不確定因素 。
系統散熱部分,隨著 GB200 NVL72 與 GB300 NVL72 等平台於 2025 年持續擴大安排,液態冷卻技術的滲透將明顯提高 ,預計從 2024 年 14% 成長至 2025 年的 31% 。
超大規模雲端服務供應商(Hyper CSP)仍是今年 AI 伺服器市場的主要成長驅動力,北美前四大 CSP 平均資本支出成長率達 38%。為降低對 NVIDIA 與 AMD 的依賴 ,CSP 業者加快自研 AI ASIC 開發進程,也成為 NVIDIA 積極推廣 NVFusion 關鍵原因之一 。
隨著高效能運算(HPC)與 AI 應用成為伺服器市場的兩大主軸,AI 伺服器的出貨成長速度將持續領先一般伺服器。TrendForce 預期 ,2023 至 2028 年間,全球 AI 伺服器市場年複合成長率(CAGR)將達 24% ,到 2028 年,AI 伺服器出貨量將占總出貨量 20% 。
(首圖來源:TrendForce)