聊 AI 硬件，一定会碰到一个问题：电脑明明早就有 CPU，为什么跑 AI 要特地用 GPU？
这篇用大白话讲清楚两者的差别，以及大型 AI 训练为什么几乎都靠 GPU。它是 GPU 那一关 的对照篇，也是 AI 硬件供应链一条龙 的入门基础。
一句话差别：重质 vs 重量
CPU（中央处理器）和 GPU（图形处理器）最关键的差别，在核心的「数量」和「分工」。
CPU 有几个到几十个很强的核心，擅长按顺序处理复杂、多变的任务。GPU 有成千上万个相对简单的核心，擅长同时处理大量同类型的运算。
打个比方：CPU 像几位博士生，每位都能解很难的题目，但人数少；GPU 像几千个小学生，每个只会简单的加减乘除，但人数超多。碰到「同一种题目算几百万遍」的工作，小学生一起上反而快得惊人。
为什么 AI 训练要用 GPU
关键在 AI 训练的「工作形态」。
训练 AI 模型，底层是海量、重复、而且可以同时进行的矩阵运算（一大堆数字的乘加）。这种「同一招做几百万次」的工作，正是 GPU 大量核心一起算的强项：GPU 一次算一大片，CPU 的少数核心只能分批排队，慢上许多。
CPU 并没有不好，只是这种工作不对它的路子。所以大型模型的训练与推理，几乎都跑在 GPU 或更专用的芯片上。
CPU 没有被取代，是分工
真实的 AI 系统里，CPU 和 GPU 分工合作。
CPU 负责调度、控制流程、逻辑判断与数据准备；GPU 负责把大量并行运算做完。CPU 像项目经理，安排谁做什么、什么时候做；GPU 像生产线上的大批工人，把交办的同类工作高速完成。少了哪一边，整套都跑不顺。
比 GPU 更专用的：TPU 与 ASIC
GPU 擅长并行运算，但它还算「通用」，很多种运算都能跑。想更省、更快的公司，就做出更专用的芯片。
TPU（Google 的张量处理器）和 AI ASIC，是为特定 AI 工作量身打造的芯片：在那件事上比 GPU 更有效率，代价是通用性较差。它们和 GPU 并存分工，不是谁淘汰谁。想看这几种芯片怎么分，读 AI 芯片是什么。
小企鹅的总结
CPU 和 GPU 各有擅长的工作。AI 训练刚好是 GPU 最拿手的「大量同类运算」，所以大型训练主要靠 GPU 或专用加速器，CPU 则留在系统里负责调度。