INDUSTRY CONNECTIONS
AI 伺服器
運算、記憶體、網路與供電構成的系統
AI 伺服器不是「一張 GPU 卡」。一套系統要把加速器、CPU、記憶體、儲存、機內互連、網路介面、供電與散熱整合起來；部署成叢集時，伺服器之間還需要交換器與光／電連接。
從需求看懂產業鏈
沿著 AI 伺服器回看上游
沿用完整的產業導讀，從設備需求連回組件與材料。
把硬體連到 AI 服務
設備與設施支撐雲端算力，再延伸到模型與使用者應用。
從板材到系統
PCB 是伺服器中的互連載體，但並非所有板上的訊號都採相同技術。機內 GPU 互連、CPU／儲存連接和跨伺服器網路各有不同需求。以 NVIDIA DGX B200 為例，官方硬體資料列有 GPU、CPU、NVSwitch、儲存與網路裝置。
- 系統內：處理器與記憶體、供電、主板、加速器板及散熱。
- 系統外：網路介面、線纜／光收發器與交換器，組成叢集網路。
為何網路會變成瓶頸？
多台伺服器共同處理工作時，必須在節點之間傳送資料。所需頻寬、延遲與拓樸取決於工作負載和叢集大小；算力擴張往往會帶動網路設備需求，但不是固定比例的線性關係。
- 機內互連與跨伺服器的 Ethernet／InfiniBand 是不同層次，不宜混成一條連線。
- 比較系統時要看完整的網路、電力與散熱配置，不只看 GPU 數量。
適合追蹤哪些變化？
觀察伺服器機種、網路介面速度、機櫃功耗、冷卻方式和叢集架構；再往回推哪些 PCB 材料或光連接方式需要升級。這是從設備規格回看供應鏈，比直接由 AI 支出推算單一材料用量更可靠。
- 已公開的硬體規格可以作為事實；供應商份額與材料用量若無揭露應標為未知。
- 不同伺服器型號的配置差異很大，示例不能當成全市場標準。
區分外部 PSU 與板級供電
PSU 或電源架提供直流輸出，伺服器內的 DC/DC 與核心穩壓繼續轉換；兩者的功率元件、電感與電容應按所在位置分類。
分類、性能與技術難點
這裡按系統功能分層，並不是五種互斥的伺服器產品。一台設備同時需要運算、機內互連、對外網路、儲存及電力冷卻。不同平台的晶片數、連接方法和板材用量不能直接套用同一範例。
單機運算節點
常見應用：一台含 CPU、GPU、記憶體與儲存的 AI 伺服器
追求：在機內完成高密度運算與資料交換。
難點：加速器功耗、記憶體頻寬、供電、散熱及機內互連要一起設計；GPU 規格不能代表整台系統性能。
機內／機櫃內加速器互連
常見應用：同一運算域的多 GPU 資料交換
追求：降低 GPU 間交換資料的延遲與成本。
難點：如 NVLink／NVSwitch 屬專用加速器互連層；它與伺服器對外的 Ethernet／InfiniBand 網路是不同層次。
跨節點運算網路
常見應用：多台 AI 伺服器組成訓練或推論叢集
追求：使節點間維持高吞吐、可預測的延遲與低壅塞。
難點：網卡、交換器、光／電連接、拓樸與軟體協同；節點數增加後，網路擁塞不會只靠換高速光模組解決。
儲存與管理網路
常見應用：資料集讀取、檢查點、系統管理及用戶接入
追求：讓資料供應、操作與故障處理不拖累運算網路。
難點：不同流量可能使用獨立網路或邏輯隔離；架構取決於部署規模和工作負載。
電源、冷卻與機櫃
常見應用：伺服器、機櫃及資料中心基礎設施
追求：維持長時間運作與允許的功耗密度。
難點：供電轉換、液冷或風冷、維修與備援；計算晶片升級須連帶檢查供電和熱設計。
上下游與關聯環節
以下依地圖的供應、分類、技術或服務關係整理；關係方向保留原有標示，不代表個別公司之間已存在交易。
PCB 印刷電路板 → AI 伺服器
系統板組件
伺服器由多種 PCB 支撐元件與互連；具體板數和材料依系統設計而異。
NVIDIA｜DGX B200 硬體組成HLC 高層數板 → AI 伺服器
複雜系統的板種選項
高層數板用於複雜資料中心設備；不代表每台伺服器每塊板都需高層數。
TTM｜資料中心 PCB 的高層數與加工能力GPU／AI 加速器 → AI 伺服器
運算組件
GPU／加速器與 CPU、記憶體、網路、供電和散熱共同構成 AI 系統。
NVIDIA｜DGX B200 硬體組成AI 伺服器 → 網路交換器
跨節點網路連接
伺服器可透過網路介面與交換器連接；這與機內 GPU 專用互連不同。
NVIDIA｜DGX B200 硬體組成AI 伺服器 → AI 資料中心
運算系統
AI 伺服器是資料中心的運算組件之一，仍需配合網路、儲存與設施。
NVIDIA｜AI 資料中心系統架構散熱與熱管理產業鏈 → AI 伺服器
依熱負載選擇方案
伺服器功耗和密度影響散熱方案，不是所有 AI 伺服器都使用同一液冷架構。
台達｜資料中心氣冷與液冷資料中心供電 → AI 伺服器
系統供電
機櫃及系統電源為伺服器提供能量，實際轉換與分配方式依設計而異。
台達｜資料中心電源與散熱系統玻璃基板的 AI、HPC 與高速互連應用 → AI 伺服器
大型 AI 伺服器需求
開發應用連結，不推定具名伺服器或 GPU 廠採購。
友達｜2026-08-31 與康寧展示 GCS、RDL 與可靠度開發伺服器與整櫃散熱整合 → AI 伺服器
伺服器與整櫃整合
為產品角色連結，不推定具名公司交易。
QCT｜2026 液冷 AI 機櫃方案DRAM 記憶體模組 → AI 伺服器
相容的伺服器模組
這是環節關係，不代表所列公司都有交易。
南亞科技｜DRAM 設計、製造與產品SSD 與嵌入式儲存 → AI 伺服器
依工作負載選擇 SSD
這是環節關係，不代表所列公司都有交易。
慧榮｜NAND 控制器、韌體與相容顆粒AI 記憶體延伸與快取 → AI 伺服器
支援相容 AI 工作負載
這是環節關係，不代表所列公司都有交易。
群聯｜aiDAPTIV 快取記憶體的定位與限制AI 伺服器 → 運算托盤與伺服器模組
機櫃中的運算單元形態
為功能或流程關係，不推定節點內所有公司互相供貨。
NVIDIA｜MGX 模組化架構與系統夥伴伺服器電源 PSU 模組 → AI 伺服器
依單機架構整合 PSU
材料、元件或系統角色關係；不表示所有代表廠商彼此供貨。
TI｜12V 與 48／54V 伺服器電源設計板級 DC/DC 與核心穩壓 → AI 伺服器
處理器所需的局部穩壓
材料、元件或系統角色關係；不表示所有代表廠商彼此供貨。
Infineon｜48V 至晶片核心的電力轉換主動光纜 AOC → AI 伺服器
伺服器光纜連接
伺服器連線依埠、協定、速率與距離選擇 AOC。
正崴｜AOC 產品AI 伺服器 → 資訊設備退役與再利用
退役資訊設備
伺服器退役後可走ITAD流程；不指認特定伺服器廠的合約。
ERI｜資訊資產處置與追蹤代表公司與產品角色
代表公司為角色例示，並非排名；國別指企業總部或主要營運地，不代表全部產地。產品角色不等於客戶訂單。