UNDERSTAND THE CONNECTIONS

AI 伺服器供應鏈:GPU、HBM、板材、散熱與網路的分工

AI 伺服器是支援 AI 運算的系統,除了運算晶片,還需要記憶體、電路板、網路、供電與散熱協同工作。理解供應鏈時,從「算得動、資料送得快、系統穩定運作」三個問題出發,比只記公司名單更容易掌握全貌。

先看懂各環節的分工

  1. 運算與記憶體

    處理資料

    GPU 或其他 AI 加速器負責運算,CPU 與記憶體配合系統工作。部分高效能加速器結合 HBM 與先進封裝,支援資料交換。

  2. 板件與系統

    把元件組成設備

    PCB、連接元件與系統整合,讓運算、資料傳輸及供電在整機中銜接;板材則是電路板供應鏈的一部分。

  3. 機櫃與資料中心

    讓多台設備協作

    網路連接不同運算節點,供電與散熱支援持續運作。系統設計可能採用氣冷或液冷,要依具體平台確認。

這裡按系統功能拆解,並非每款伺服器都採相同晶片、封裝或散熱方案。查實際供應商時,需要對應到平台、型號與公開資料。

GPU、HBM 與先進封裝各自做什麼?

GPU 著重運算,HBM 提供高頻寬記憶體,而先進封裝協助晶片之間的連接與整合。台積公司的 CoWoS 即為整合邏輯晶片與 HBM 等元件的技術例子。

因此,AI 需求相關新聞可能同時牽動晶片設計、晶圓製造、記憶體及封裝,但各環節提供的產品不同,需要分開理解。

參考資料:台積公司:CoWoS 與高頻寬記憶體整合

為什麼 AI 伺服器會連到 PCB 與 CCL?

電路板把電子元件連成系統;CCL 覆銅板則是製作 PCB 的基礎材料之一。研究板材時,應先分清「製作材料」與「把材料加工成電路板」這兩種角色。

接著再查板件放在哪裡、需要傳輸什麼訊號、使用哪個材料規格。看到某種材料被用於高速應用,不代表所有 AI 伺服器都採用相同型號。

參考資料:台燿科技:銅箔基板的用途與製程

散熱、供電與網路為什麼也要一起看?

當多個運算節點協作,設備間的連接與整體運作條件也成為系統的一部分。以 NVIDIA GB200 NVL72 為例,官方方案包含運算晶片、NVLink 連接與液冷機櫃,顯示研究範圍可以從晶片一路延伸到機櫃。

讀一項新平台時,可以依序整理運算元件、記憶體、板件與連接、散熱、供電和網路,再核對各家公司公開的產品資訊。這份功能清單有助於分辨同一個 AI 題材中的不同分工。

參考資料:NVIDIA:GB200 NVL72 系統架構

常見問題

AI 伺服器一定使用 GPU、HBM 和液冷嗎?

不能一概而論。不同工作負載、加速器架構與整機方案可能採取不同設計,應以該平台的官方規格為準。

供應鏈名單代表公司已經取得訂單嗎?

產業角色與產品能力只能說明可能參與的環節。要確認實際合作或出貨,仍需公司公告、產品文件或其他可查證資料。

EXPLORE THE MAP

把概念放回產業地圖

選一個節點,查看完整介紹、關聯環節與已收錄公司的產品角色。

查看公司名錄 →

資料來源

以下官方資料用於核對技術與產品分工;導讀中的路徑是本站整理的閱讀方式。