新聞裡的「AI 晶片」有時指 NVIDIA 的 GPU、有時指 Google 的 TPU、有時又是手機裡的某個處理器。到底哪個才是 AI 晶片？答案是：它們都是。

這篇拆解 AI 晶片家族的五種成員，再談訓練與推論、雲端與裝置端的差別。這是 AI 硬體供應鏈一條龍 第 1 關「AI 晶片」的入門總覽。

AI 晶片是什麼？

AI 晶片（又稱 AI 加速器）是「為 AI 工作負載最佳化的硬體」的總稱，不是單一種晶片。

為什麼需要專門的晶片？因為 AI 的運算很有特色：大量的矩陣乘法、張量運算（張量可想成矩陣的延伸，是模型處理的大量數字表）、低精度計算，而且這些運算可以同時進行。一般 CPU 不擅長這種大規模平行運算，業界於是做出各種專門加速它的晶片：GPU、ASIC、TPU、NPU、FPGA，各有專長，統稱 AI 晶片。

核心數據快照

下面幾個數字幫你抓住 AI 晶片市場的量級，都是研調機構的估計。

主題數值來源與時點
全球半導體營收2026 年估約 1.6 兆美元，年增 92%Gartner，2026 年 8 月預估
AI 資料中心生態系占比約占 2026 年半導體營收 36.5%，2030 年估逾 53%Gartner，2026 年 8 月預估
NVIDIA AI 晶片市占約七成TrendForce，2025 年估計
ASIC 機種占 AI 伺服器2026 年約 27%，GPU 機種仍占多數TrendForce，2026 年 4 月估計

五種 AI 晶片，各做什麼

類型它是什麼適合用在哪
GPU通用平行處理器，彈性大、生態（CUDA）成熟大模型訓練、雲端推論、研究
ASIC為特定任務量身打造的客製晶片，效率高、彈性低雲端大廠自研（如 AWS Trainium、Meta MTIA），衝成本
TPUGoogle 自研的 ASIC，專攻張量運算Google Cloud、自家模型與客戶工作負載
NPU放進手機、筆電、汽車的低功耗 AI 晶片裝置端即時 AI、省電、可離線
FPGA可重新配置（出廠後仍能改硬體邏輯），彈性與效率的折衷低延遲、工業、原型開發

想深入了解 GPU，看 GPU 那一關，旗艦世代看 Blackwell；想了解雲端大廠為何自研晶片，看 ASIC 和 TPU。

訓練晶片 vs 推論晶片

同樣是 AI 晶片，用在「訓練」還是「推論」，重點很不一樣。

訓練是讓模型從海量資料中學習，像把一個學生從頭教到會，需要極高的算力、很大的記憶體、跨晶片高速互連，還要長時間穩定運算。推論是模型學成上線後，對新的輸入快速給出答案，像讓學生考試作答，更在意延遲、成本與每瓦效能。

GPU、TPU 兩者都能做。但推論每被使用一次就花一次成本，所以市場上越來越多「推論優先」的晶片設計。

雲端 vs 裝置端

雲端 AI 晶片放在資料中心，算力大、可擴展，適合大模型訓練與大量 API 推論，但很吃電。裝置端 AI 晶片（多為 NPU）放在手機、筆電、汽車裡，優勢是低延遲、保護隱私、可離線，代價是受限於體積與功耗。

越來越多 AI 應用會把運算切開：重的放雲端，即時的放裝置端。

小企鵝的總結

AI 晶片是一個加速器家族，不是只指 GPU。GPU 靠通用與成熟生態主導雲端，ASIC 和 TPU 靠量身打造換到效率，NPU 靠省電進到手機與筆電。

看懂這個分工，下次新聞說某家公司推出「AI 晶片」，你就能先分辨它屬於哪一類、該跟誰比。