SUPPLY CHAIN HANDBOOK

AI 硬體:雲端、終端與邊緣設備

把運算晶片放回伺服器、資料中心、AI PC 與邊緣設備中,觀察運算、記憶體、供電與散熱如何配合。不同應用的限制不同,雲端配置不能直接套用到所有終端。

最近資料查閱:

閱讀內容與編排更新:

同樣執行 AI,雲端、PC 與邊緣設備為何需要不同硬體?

差異來自工作在哪裡發生,以及資料如何進出。資料中心可讓多台運算系統透過網路協作,代價是機房供電、冷卻與管理也要擴充;PC 把部分工作留在使用者裝置,邊緣設備則靠近相機或產線,以便接收現場資料並回應。選擇硬體時,應一起看模型與軟體支援、記憶體、資料傳輸及持續運轉條件,而不是只比較某顆晶片的運算數字。

  1. 模型與應用需求 → 運算位置與設備配置

    先確認輸入資料、回應方式與應用軟體,再選擇在雲端、PC 或現場設備執行;不同位置需要搭配各自的處理器、記憶體及連接能力。

  2. 運算設備與網路 → 資料中心服務能力

    多台設備透過網路與儲存協作,機櫃、配電、冷卻與管理支援持續運行;晶片能力必須通過這些共同條件,才能變成可提供給應用的算力。

  3. 感測資料與邊緣推論 → 現場回應與設備動作

    邊緣設備接收影像或其他訊號並執行模型,輸出再交給應用或控制系統;機器人還需銜接機構與執行器,辨識結果本身並不等於完成動作。

比較時,先看哪個差異?

先比較資料位置與回應需求,再決定集中或就地運算。雲端方便集中資源,端側與邊緣則須在有限功耗、空間和本機記憶體內完成適合的工作。

本段資料依據

AI 終端全景

AI 應用與終端

從使用場景,分辨雲端與裝置端的產業鏈

AI 可以在資料中心執行,也可以在手機、PC 或現場設備內運作。先問「在哪裡運算、要完成什麼工作」,再看需要的晶片、記憶體、板件、網路及散熱,會比把所有產品都放進同一條線更清楚。

本條目資料查閱:2026-09-26

閱讀路徑

訓練與推論分開理解

訓練建立或更新模型;推論使用模型處理新的輸入。

  • 兩者都可能需要專用硬體,但規模與配置不同。
  • 終端可能執行推論,同時使用雲端更新模型或處理較大工作。

從 AI 新聞回到具體零件

AI 伺服器帶出加速器、HBM、封裝和網路;AI PC 與手機則有不同的功耗及封裝取捨。

  • CPO 是網路中的架構選項,不是所有 AI 設備的必備零件。
  • 更高 AI 需求不代表每一種 CCL 或所有 PCB 都等比例增加。

分類與取捨

按運算位置與產品形態整理;以下是代表性路線,不是市場排名。

  • 雲端 AI 服務:資料中心的訓練與推論 · 集中運算資源並透過網路提供服務。 · 運算、記憶體、網路、儲存、電力和散熱需協同。
  • 個人端 AI:AI PC 與具本地推論能力的手機 · 在終端完成部分工作。 · 模型能力受功耗、記憶體、軟體和硬體支援限制。
  • 邊緣與實體設備:工業視覺、閘道及機器人 · 在資料產生處附近處理資訊或支援動作。 · 延遲、感測器、現場環境和系統驗證很重要。

判讀提醒:端側 AI 與雲端 AI 可以互補;它們不使用同一份零件表,也不能只用 TOPS 或 GPU 數量比較產品價值。

代表公司與交付內容

AI 是跨產業的應用集合;這裡先列本地圖聚焦的運算平台與硬體系統角色。

  • 緯穎科技 · 台灣 · 代表角色 · AI 系統硬體

    提供 AI 運算伺服器與機櫃整合方案。

    公司產品與角色來源
  • 研華 Advantech · 台灣 · 代表角色 · 邊緣 AI 系統

    提供邊緣 AI 模組、推論系統與工業運算設備。

    公司產品與角色來源
  • NVIDIA · 美國 · 代表角色 · AI 運算平台

    提供 AI 工廠的加速運算、網路與軟體平台。

    公司產品與角色來源

在地圖探索此環節回報此條目回到目錄

AI PC 與工作站

把一部分 AI 運算帶到個人電腦

AI PC 以 CPU、GPU 和 NPU 等引擎執行合適的工作;工作站也可能搭配獨立 GPU。實際功能取決於應用軟體、模型與硬體支援,並不是換上一個名稱就讓所有工作離線完成。

本條目資料查閱:2026-10-30

閱讀路徑

NPU 不會取代所有 CPU 或 GPU 工作

不同引擎擅長的任務不同,應用需有對應支援。

  • 低功耗背景工作與大型模型有不同需求。
  • 只比較算力數字容易忽略記憶體和軟體條件。

沿著產品往回看

運算平台、記憶體、板件、供電和熱設計共同影響體驗。

  • 與資料中心共享部分技術,但不能套用相同封裝與材料需求。
  • 端側資料處理也可能和雲端服務並行。

桌上型個人電腦筆記型電腦平板電腦

分類與取捨

以下按產品形態與使用方式分類。

  • 可攜 AI PC:筆電與行動工作 · 平衡本地功能、重量和續航。 · 記憶體、電池和散熱限制長時間工作。
  • 桌上型 PC/工作站:內容創作、開發與本地推論 · 依需求配置較多資源。 · 模型、軟體、GPU 記憶體及供電要匹配。
  • 混合雲端工作:本地處理與遠端服務搭配 · 按能力與情境分配工作。 · 需考慮網路、資料處理方式和服務依賴。

判讀提醒:AI PC 不代表所有 AI 應用都能在本地執行,也不代表每個產品都需要資料中心級加速器。

代表公司與交付內容

在地圖探索此環節回報此條目回到目錄

AI 雲端基礎設施

AI 資料中心

伺服器之外,還有網路、儲存、電力與冷卻

AI 資料中心把多台運算系統、網路與儲存組成可持續運作的設施。伺服器是其中一部分;機櫃、供電、冷卻與管理需要一起設計,才能把晶片能力轉成可用服務。

本條目資料查閱:2026-10-05

閱讀路徑

AI 伺服器不是整座資料中心

伺服器內有晶片、封裝與板件,資料中心則進一步協調多台設備。

  • 網路有不同用途,不能把所有連接都理解為同一條高速鏈路。
  • 建置需要硬體、設施及操作的共同配合。

如何追溯到材料?

從伺服器或交換器進入 PCB,再看高速材料及封裝需求。

  • 從冷卻與供電則會走到另一群設備與元件。
  • 每條分支都應按實際規格與部署方案判斷。

分類與取捨

按系統層次閱讀,比只看採購多少顆加速器更完整。

  • 運算與儲存系統:訓練、推論及資料處理 · 提供所需算力與資料存取。 · 工作負載、軟體與資源利用率影響配置。
  • 網路與互連:運算節點、儲存和使用者接入 · 在不同系統間移動資料。 · 頻寬、延遲、拓撲與擴充規模需配合。
  • 電力與冷卻設施:機櫃供電及熱量移除 · 讓設備穩定持續運作。 · 機櫃密度、現有設施與可用供應能力限制部署。

判讀提醒:AI 資料中心不是一台更大的伺服器;伺服器數量增加,也不保證網路和設施容量已同步就緒。

代表公司與交付內容

這裡是資料中心設備與平台廠商,並非雲端服務營運商名單。

  • 緯穎科技 · 台灣 · 代表角色 · 資料中心系統整合

    提供伺服器與機櫃整合,服務資料中心運算需求。

    公司產品與角色來源
  • 台達電子 · 台灣 · 代表角色 · 供電/散熱基礎設施

    提供資料中心電力、散熱與管理相關解決方案。

    公司產品與角色來源
  • NVIDIA · 美國 · 代表角色 · AI 資料中心平台

    AI Factory 平台涵蓋加速運算、網路與軟體。

    公司產品與角色來源

在地圖探索此環節回報此條目回到目錄

資料中心供電

從設施電源到晶片所需電壓

資料中心需要多個層次的電力轉換與分配:設施、機櫃、伺服器及板級電源各有角色。高密度運算讓效率、空間、發熱與供電穩定性更加重要。

本條目資料查閱:2026-10-08

供電不是只有一顆電源供應器

多層轉換與分配共同構成能量路徑。

  • 設備規格要與機櫃及設施能力配合。
  • 新架構可能逐步導入,不能推論所有既有機房立即更換。

與散熱及 PCB 的關係

電源轉換效率影響廢熱,板件需承受電流與熱循環等要求。

  • 供電板和高速訊號板的設計重點不同。
  • 看材料需求時,應先確認板件在系統中的位置。

往上游看電源供應鏈

新增電源與功率電子地圖,可追到 Si/SiC/GaN 製造、PSU 零件與材料;單機電源、電源架和板級穩壓分開閱讀。

分類與取捨

以下依供電位置分類,實際架構與電壓依系統決定。

  • 設施供電與備援:機房配電及持續供電需求 · 支援整體容量與運作條件。 · 需與建置規模、設施及操作方式匹配。
  • 機櫃與伺服器電源:電源模組及分配系統 · 在有限空間提供所需功率。 · 效率、散熱、冗餘及維護互相影響。
  • 板級電源:晶片附近的電壓轉換與供電 · 回應負載及局部供電需求。 · 電源完整性、熱量和布局需要共同驗證。

判讀提醒:運算晶片規格不是整機供電規格;機櫃和設施仍需納入其他設備及轉換損耗。

代表公司與交付內容

  • 台達電子 · 台灣 · 代表角色 · 資料中心供電

    提供資料中心供電與電力管理相關方案。

    公司產品與角色來源
  • 光寶科 · 台灣 · 代表角色 · 伺服器電源供應器

    資料中心伺服器電源供應器與機櫃電源方案。

    公司產品與角色來源

    資料查閱:2026-09-27

  • Vertiv · 美國 · 代表角色 · 電力基礎設施

    提供高密度運算所需的模組化電力與基礎設施。

    公司產品與角色來源

在地圖探索此環節回報此條目回到目錄

端側與邊緣 AI

邊緣 AI 設備

在工廠、商店或其他現場處理資料

邊緣 AI 將部分運算放在接近感測器或使用者的地方。它可以是視覺檢測設備、智慧閘道或嵌入式電腦,產品外觀不固定,重點是資料如何進來、在哪處理及如何回應。

本條目資料查閱:2026-10-03

閱讀路徑

資料中心與邊緣可以合作

模型開發或更新可在其他系統完成,現場設備負責特定推論工作。

  • 斷線可用性取決於產品實作,不是「邊緣」一詞的保證。
  • 不同設備有不同的模型及硬體限制。

硬體鏈從介面開始

感測器連到運算平台,再連到儲存、網路或控制系統。

  • 工業環境的可靠度與生命週期可能和消費電子不同。
  • 主板與模組需要配合訊號、供電及熱設計。

分類與取捨

依工作型態區分,而非用單一機殼或晶片名稱定義。

  • 視覺與辨識設備:工業檢測和影像分析 · 在現場處理影像。 · 光學、資料量、延遲及環境差異會影響結果。
  • 智慧閘道與嵌入式系統:現場資料彙整和推論 · 整合感測、網路及本地運算。 · 需要配合介面、功耗與維護方式。
  • 機器人的運算子系統:感知和部分決策 · 支援設備理解環境。 · 仍需結合控制、機構與現場驗證。

判讀提醒:邊緣 AI 不等於所有事情都不上雲,也不等於每台設備都是機器人。

代表公司與交付內容

  • 研華 Advantech · 台灣 · 代表角色 · 邊緣 AI 設備

    提供 AI 推論系統、模組、邊緣伺服器與閘道器。

    公司產品與角色來源
  • NVIDIA · 美國 · 代表角色 · 嵌入式 AI 平台

    Jetson 平台提供邊緣裝置使用的 AI 運算模組與開發工具。

    公司產品與角色來源

在地圖探索此環節回報此條目回到目錄

機器人與智慧設備

讓感知、運算與動作形成完整系統

機器人需要感測、運算、控制與機構共同工作。AI 可支援辨識、規劃或互動,但模型輸出仍需接到控制與執行系統;這個入口先呈現電子與運算分支,機械傳動不是本次地圖的完整範圍。

本條目資料查閱:2026-09-29

閱讀路徑

不是裝上 AI 晶片就完成機器人

感測器、運算平台、控制器及執行機構各有分工。

  • 相機是感測選項之一,還可能需要其他感測來源。
  • 運算能力要和系統回應、功耗及熱限制配合。

開發與現場運作分成不同環節

模擬、訓練及部署可以使用不同的運算系統。

  • 現場設備可能搭載邊緣運算模組。
  • 原型展示、產品功能及大規模部署不是同一階段。

分類與取捨

以下是常見場景,不表示每一類都採用相同 AI 架構。

  • 工業操作與檢測:產線機械手臂及視覺設備 · 配合工作流程執行任務。 · 重複性、環境變化與整機驗證重要。
  • 移動與巡檢:物流、移動平台與現場巡檢 · 理解環境並完成移動任務。 · 感測、定位、供電與即時回應需協調。
  • 互動與通用形態:服務型及人形等研究與產品路線 · 整合更多感知與動作能力。 · 能力成熟度和實際部署條件必須個別查證。

判讀提醒:機器人與 AI 不是同義詞;也不能用單次展示推定設備已能在所有現場自主工作。

代表公司與交付內容

  • 達明機器人 · 台灣 · 代表角色 · 協作機器人

    整合機器手臂、視覺與 AI 的協作機器人。

    公司產品與角色來源
  • 上銀 · 台灣 · 代表角色 · 機器人與運動控制

    工業機器人、單軸機器人及運動控制元件。

    公司產品與角色來源

    資料查閱:2026-09-27

  • FANUC · 日本 · 代表角色 · 協作/工業機器人

    CRX 系列為協作機器人產品。

    公司產品與角色來源
  • NVIDIA · 美國 · 代表角色 · 機器人運算/軟體

    提供機器人 AI 運算、模擬與開發平台;不是機器手臂製造商。

    公司產品與角色來源

在地圖探索此環節回報此條目回到目錄