INDUSTRY CONNECTIONS
HBM 高頻寬記憶體
把多層 DRAM 堆起來，提供更寬的資料通道
HBM 是以多層 DRAM 晶粒堆疊構成的記憶體架構，透過矽穿孔等垂直連接，提供很寬的資料介面。它常與高性能運算晶片在同一封裝平台內相鄰配置。容量表示能放多少資料；頻寬表示每秒能搬多少資料，兩者不同。
與主板上的記憶體有何不同？
HBM 的堆疊與近封裝連接方式，和可插拔的系統記憶體模組不同。它不是使用者可隨手更換的伺服器 DIMM。
- 處理器通常需在設計時確定 HBM 配置。
- 容量與頻寬需求要依實際模型及資料流評估。
製造難點在哪裡？
晶粒做薄、TSV 垂直連接與多層堆疊，會增加對位、缺陷控制與熱管理的要求。
- TSV 是矽晶粒中的連接，不是 PCB 的鑽孔。
- 堆疊後仍需驗證可用容量、資料傳輸與可靠度。
它與 CoWoS 的關係
CoWoS 是可整合 HBM 與邏輯晶片的封裝選項之一。兩邊的驗證與供貨節奏會互相影響。
- 記憶體供貨量不能直接換算成伺服器數量。
- 每顆加速器的 HBM 顆數、容量與良率需另外確認。
原廠、基底晶片與製造合作分開看
完整 HBM 產品原廠包括 SK hynix、Samsung、Micron；台積電、力積電與群聯的角色需另行辨識。
- 台積電：SK hynix HBM4 的邏輯 base die 合作及 CoWoS 整合。
- 力積電：公告美光 HBM／PWF 製造合作；自有 WoW 平台另列。
- 群聯：aiDAPTIV 使用 NAND 延伸容量，沒有因此成為 HBM DRAM 原廠。
- 切入 HBM 需配合 DRAM 設計、TSV、薄化、精密堆疊、測試與散熱，不是直接把 DDR5 成品疊起來。
分類、性能與技術難點
世代、每層容量與堆疊層數是不同維度。較高堆疊不自動代表每秒傳輸量更高；應分別確認容量、介面和速度。
不同介面世代
常見應用：需要與處理器設計相容的記憶體
追求：提高系統所需的頻寬與能源效率。
難點：控制器、基底晶片與封裝連接須配套，不能任意替換不同世代。
不同堆疊高度／容量
常見應用：容量需求不同的加速器
追求：在封裝占地與高度限制下提供容量。
難點：薄晶粒搬運、垂直連接、堆疊良率與散熱。
與邏輯晶片的封裝整合
常見應用：GPU、AI 加速器與其他高性能處理器
追求：以短距離寬介面傳輸資料。
難點：記憶體、運算晶片與中介層需在訊號、供電、熱及測試上協調。
上下游與關聯環節
以下依地圖的供應、分類、技術或服務關係整理；關係方向保留原有標示，不代表個別公司之間已存在交易。
HBM 記憶體 → CoWoS 先進封裝
整合元件
CoWoS 可整合 HBM 與邏輯晶片；HBM 是記憶體元件，CoWoS 是封裝技術。
TSMC｜CoWoS-S／R／LHBM 記憶體 → GPU／AI 加速器
高頻寬記憶體
部分高性能 GPU 使用 HBM，容量與頻寬取決於實際配置。
NVIDIA｜H200：運算與 HBM 的系統範例晶圓製造 → HBM 記憶體
DRAM 晶粒與後續堆疊
HBM 需要 DRAM 晶粒及後續垂直互連、堆疊等加工，晶圓製造只是其中一段。
Micron｜HBM 架構DRAM 記憶體晶片 → HBM 記憶體
HBM 屬於 DRAM 架構
這是環節關係，不代表所列公司都有交易。
Micron｜HBM 產品與架構HBM 邏輯基底晶片 → HBM 記憶體
堆疊所需邏輯基底
這是環節關係，不代表所列公司都有交易。
SK hynix｜與台積電合作 HBM4 base die 及 CoWoS 整合HBM／PWF 製造合作 → HBM 記憶體
美光 HBM 製造合作
這是環節關係，不代表所列公司都有交易。
力積電｜2026-03-16 美光 HBM／PWF 合作公告代表公司與產品角色
HBM 晶粒與堆疊記憶體製造、底層邏輯晶片代工、封裝整合是不同角色。