聊 AI 硬體，一定會碰到一個問題：電腦明明早就有 CPU，為什麼跑 AI 要特地用 GPU？
這篇用白話講清楚兩者的差別，以及大型 AI 訓練為什麼幾乎都靠 GPU。它是 GPU 那一關 的對照篇，也是 AI 硬體供應鏈一條龍 的入門基礎。
一句話差別：重質 vs 重量
CPU（中央處理器）和 GPU（圖形處理器）最關鍵的差別，在核心的「數量」和「分工」。
CPU 有幾個到幾十個很強的核心，擅長按順序處理複雜、多變的任務。GPU 有成千上萬個相對簡單的核心，擅長同時處理大量同類型的運算。
打個比方：CPU 像幾位博士生，每位都能解很難的題目，但人數少；GPU 像幾千個小學生，每個只會簡單的加減乘除，但人數超多。碰到「同一種題目算幾百萬遍」的工作，小學生一起上反而快得驚人。
為什麼 AI 訓練要用 GPU
關鍵在 AI 訓練的「工作型態」。
訓練 AI 模型，底層是海量、重複、而且可以同時進行的矩陣運算（一大堆數字的乘加）。這種「同一招做幾百萬次」的工作，正是 GPU 大量核心一起算的強項：GPU 一次算一大片，CPU 的少數核心只能分批排隊，慢上許多。
CPU 並沒有不好，只是這種工作不對它的盤。所以大型模型的訓練與推論，幾乎都跑在 GPU 或更專用的晶片上。
CPU 沒有被取代，是分工
真實的 AI 系統裡，CPU 和 GPU 分工合作。
CPU 負責調度、控制流程、邏輯判斷與資料準備；GPU 負責把大量平行運算做完。CPU 像專案經理，安排誰做什麼、什麼時候做；GPU 像生產線上的大批工人，把交辦的同類工作高速完成。少了哪一邊，整套都跑不順。
比 GPU 更專用的：TPU 與 ASIC
GPU 擅長平行運算，但它還算「通用」，很多種運算都能跑。想更省、更快的公司，就做出更專用的晶片。
TPU（Google 的張量處理器）和 AI ASIC，是為特定 AI 工作量身打造的晶片：在那件事上比 GPU 更有效率，代價是通用性較差。它們和 GPU 並存分工，不是誰淘汰誰。想看這幾種晶片怎麼分，讀 AI 晶片是什麼。
小企鵝的總結
CPU 和 GPU 各有擅長的工作。AI 訓練剛好是 GPU 最拿手的「大量同類運算」，所以大型訓練主要靠 GPU 或專用加速器，CPU 則留在系統裡負責調度。