每次看 AI 新聞，總會聽到「某公司又買了幾萬顆 GPU」。為什麼是 GPU，不是聽起來更高級的 CPU？
這篇把 GPU 講白：它是什麼、為什麼大型 AI 常用它、市場由誰主導，以及從 H100 到 Vera Rubin 的世代差別。這是 AI 硬體供應鏈一條龍 第 1 關「AI 晶片」的入門版。
GPU 是什麼？
GPU 的全名是 Graphics Processing Unit，圖形處理器。它原本為遊戲與 3D 繪圖設計，特色是塞滿大量結構簡單的小核心，能同時處理成千上萬筆相似的運算。
打個比方：CPU 像一位精算高等數學的教授，一次專心解一道難題；GPU 像一千個只會加減法的小學生，每人分一小塊，一起算反而快得多。AI 要算的，正是幾億道簡單題目同時上場。
核心數據快照
市占類數字是研調或政策機構估計，抓量級就好。
| 主題 | 數值 | 時點／性質 |
|---|---|---|
| NVIDIA 在 AI 用 GPU 的市占 | 約八成以上（雲端自研 ASIC 另計，口徑不同） | 2025–2026，研調／政策機構估計 |
| NVIDIA 資料中心營收（全年） | FY2026 約 1,937 億美元 | NVIDIA 官方財報 |
| NVIDIA 資料中心營收（單季） | FY2027 第二季（至 2026-07-26）890 億美元，年增 117% | NVIDIA 官方財報 |
GPU 跟 CPU 差在哪
差別在核心的數量與分工。CPU 核心少，但每顆都強、很全能，擅長一步接一步、需要邊做邊判斷的工作，例如作業系統與程式邏輯。GPU 塞滿大量較小的核心，追求「同時做很多事」的總吞吐量，適合矩陣運算、影像處理與深度學習。
在 AI 伺服器裡，兩者是分工合作的夥伴：CPU 調度資料、管理程式與網路，GPU 跑模型最吃重的運算。更完整的比較可以讀 GPU 和 CPU 差在哪。
為什麼大型 AI 常用 GPU
AI 模型的訓練與推論，骨子裡是海量的矩陣運算同時進行。GPU 裡有兩種核心特別重要：CUDA Core 是大量通用的小計算單元，負責一般平行運算；Tensor Core 專門加速矩陣乘法，支援 FP16、FP8、FP4 這些低精度格式（用較少位元換更快的運算）。
旁邊還要配上高速的 HBM（高頻寬記憶體），把模型權重和資料餵得夠快，運算核心才不會閒著等資料。這塊記憶體可以看 HBM 那一關。
AI GPU 市場：誰在供應
這一關高度集中在 NVIDIA。它的護城河不只在晶片，更在 CUDA 這套軟體生態：開發者寫好的程式都跑在上面，要整套搬到別家成本很高。
AMD 是主要挑戰者：Instinct MI350 系列已在雲端出貨，2026 年 7 月再推出 MI455X（單顆 432GB HBM4）與 72 顆 GPU 組成的 Helios 整櫃。Google、AWS、Microsoft 等雲端大廠則自研 ASIC，在自家雲裡省成本、做差異化，這條線可看 ASIC 那一關。
要提醒的是，市占與營收會隨新品、財報與口徑變動，這裡描述的是產業格局，不是個股評價。
主流 AI GPU 世代一覽
| 世代／產品 | 定位 | 記憶體 |
|---|---|---|
| H100（Hopper） | 較早的訓練／推論主力 | 80–94GB HBM |
| H200（Hopper） | Hopper 記憶體升級版 | 約 141GB HBM3e |
| B200（Blackwell） | Blackwell 世代主力 | 約 180–192GB HBM3e（依 SKU） |
| B300（Blackwell Ultra） | 記憶體再加大 | 約 288GB HBM3e |
| GB300 NVL72 | Grace CPU + 72 顆 Blackwell Ultra GPU 的整櫃系統 | 整櫃約 20TB |
| Vera Rubin | Blackwell 的下一代 | 單顆 288GB HBM4；NVL72 整櫃 20.7TB |
截至 2026 年 8 月，Blackwell 仍占 NVIDIA 營收的絕大部分；Vera Rubin 則在 2026 年 8 月開始量產出貨。
重點抓兩個趨勢：一是記憶體越做越大、頻寬越拉越高；二是從「單顆晶片」走向「整櫃系統」，把幾十顆 GPU 用高速互連綁成一台超級電腦。旗艦世代的細節可以接著讀 Blackwell 那一關。
台灣在這一關的角色
GPU 由 NVIDIA 在美國設計，實體製造卻高度仰賴台灣。Blackwell 用台積電客製的 4NP 製程生產，再靠 CoWoS 等 先進封裝 把 GPU 和 HBM 綁在一起，最後由鴻海、廣達、緯創等台廠組裝成整櫃 AI 伺服器。NVIDIA 在 2026 年 5 月公布的 Vera Rubin 量產夥伴，也包括這些台廠。一顆 GPU 從矽片到能用的系統，大半路程都在台灣。
小企鵝的總結
GPU 的本事是平行運算：大量小核心同時開工，剛好對上 AI「海量簡單運算一起做」的胃口，這就是大型 AI 常用 GPU 的原因。
這一關由 NVIDIA 主導，AMD 與雲端自研 ASIC 從兩路追趕；而每顆 GPU 背後，都連著台積電製程、先進封裝與台灣的伺服器組裝。看懂 GPU，就拿到了看懂整條 AI 硬體供應鏈的入場券。