近日，ChatGPT因大规模封号及关闭Plus付费会员的申请引发大家热议。有网友说这是因为计算资源不够了，已经不单是靠钱能解决得了的问题，地球上已经没有足够的算力来满足ChatGPT的运行需求了。AI的发展真的会被算力所限制吗？它和芯片又有怎样的关系？本文将以ChatGPT为切入点，深入&浅出地为你解读芯片如何支撑AIGC（人工智能生成内容）的运转，并展望未来芯片的发展方向。

一、算力决定智力：芯片是AI的“发动机”

AI的“三驾马车”是数据、算法和算力。我们将数据送入AI算法，由算法学习数据中的规律，这意味着要进行无数次运算。运算的背后是芯片提供的算力支持。

回顾AI算法的发展史，会发现它同时也是芯片公司的发展史：

• 1999年：第一颗GPU诞生
• 2008年：NVIDIA推出首颗可用于AI的GPU——Tegra
• 近年：各类芯片方案百花齐放（如基于A VX-512指令集的Intel至强CPU、NVIDIA Volva GPU架构、赛灵思Vitis AI推理平台等）

算力的提高极大增强了AI的智力水平，让AI能解决更复杂、多样化的问题，也为我们进入AIGC时代铺平了道路。在过去的20年中，数据的规模、算法的参数量、芯片的算力三者相辅相成，共同衍生出不同类型的AIGC。

小提示： 算力就像汽车的发动机——发动机越强，车跑得越快。AI的“智力”水平直接依赖芯片提供的算力大小。

ChatGPT的算力需求有多大？

ChatGPT的参数量达到了1750亿个量级，其超强智力背后是昂贵、巨量的算力资源。让我们问ChatGPT两个问题，看看它自己怎么说（如图1和图2所示）。

图1

图2

下面我们从两个核心角度来解析AIGC与芯片的关系：

1. 在AIGC领域中，现在用什么芯片？
2. 随着AIGC的发展，对芯片会有什么新的需求？

二、AIGC领域的芯片现状：训练与推理

1. 理解两个关键概念：训练 vs 推理

AIGC的实现过程分为两个环节：训练和推理。

训练：用大规模数据训练出复杂的神经网络模型。通过数据标记和深度学习中的监督学习，使模型具备特定功能。基本过程是：大数据输入 → 神经网络算法解算 → 输出结果 → 反向反馈（有监督或无监督学习）→ 调整模型 → 重复计算。实质上就是“计算—反馈—调整—计算”的往复过程。

推理：利用训练好的模型，输入新数据来获取结论。实质是“输入—计算—输出”的过程。

常见问题： 训练和推理哪个对算力要求更高？
答案： 训练需要的计算量和算力资源远大于推理。推理除了算力，还需要考虑功耗、成本以及与应用场景的匹配。训练通常放在云端，而推理可以在云端或终端进行。

AI芯片通常分为以下3种类型（代表公司见表1）：

• 云端训练芯片
• 云端推理芯片
• 端侧推理芯片

表1

小提示： 注意，由于训练对算力要求极高、芯片功耗大，因此目前不存在“端侧训练芯片”，所有训练都在云端完成。

2. 云端训练芯片：ChatGPT是怎样“练”成的

ChatGPT的“智能”感是通过使用大规模的云端训练集群实现的。目前，云端训练芯片的主流选择是NVIDIA公司的GPU A100。

GPU vs CPU：

• CPU：通用处理器，承担调度、计算和控制任务
• GPU：内核更小、更专用，拥有大规模并行计算架构（适合矩阵乘法、卷积运算等）

表2

（1）始于1985年：从VPU到GPU

最早的图形处理器是1985年ATI公司（2006年被AMD收购）发布的一款芯片，当时命名为VPU（视频处理器）。直到AMD收购后，才更名为GPU。而“GPU”这个名字来源于1999年NVIDIA发布的GeForce 256，后来GPU与图形处理器概念等同。

图3

虽然GPU为图像处理而生，但深度学习的计算类型（大量矩阵/张量运算）与图形渲染（大量并行数学运算）高度相似，因此GPU的并行处理架构完美适配AI计算。

（2）2006年：跨时代计算平台CUDA

仅有芯片硬件不够，软件生态同样重要。2006年，NVIDIA推出了CUDA（统一计算设备架构），它成为连接NVIDIA所有产品线的通用平台，沉淀了非常全面的API和算法框架库。CUDA生态是NVIDIA面对其他GPU厂商最大的竞争优势之一。

常见问题： 所有训练任务都必须用NVIDIA的GPU吗？
答案： 不是。虽然NVIDIA GPU是主流选择，但也可以选择其他平台。如本文开头ChatGPT回答的：“OpenAI并不固定使用某一种芯片，而是根据模型训练的具体需求，选择适当的计算平台。”下表展示了不同训练芯片的选择对比。

表3

3. 云端推理芯片：与ChatGPT对话的背后

我们使用AIGC应用（如与ChatGPT对话）的过程本质上是推理过程。用户输入一句话，算法运算后输出回答。推理对芯片性能要求相对训练较低，但当前ChatGPT运行在微软的Azure AI超算平台上——拥有28.5万个CPU核心、1万个GPU，每个GPU拥有400Gb/s网络带宽的超级计算机。

虽然推理算力需求比训练稍低，但仍然非常夸张。不过，由于推理是一个应用过程，更容易被优化和加速，未来AIGC的云端推理资源会大幅降低。

小提示： 训练像“大力出奇迹”，推理像“灵活应用”，所以推理可以通过算法和硬件优化大幅节约资源。

4. 端侧推理芯片：从云端走向终端

目前我们还不能在手机、电脑上直接运行ChatGPT这样的大语言模型（LLM），原因有：

• 第一， ChatGPT仍在迭代，用户的对话输入也是它的训练原料
• 第二， 作为新模型，对终端部署的优化不足（现阶段重点不在此），导致对终端芯片要求过高（主要是内存空间）

但未来，随着LLM进一步完善，我们可能将其下载到终端离线运行。经过优化后，PC芯片（如Intel或Apple M系列）都可以承担此类推理任务。

图5（注：此处原文图5应为Intel酷睿处理器，但原始内容图片链接与表3重复，实际应为另一张图，按原文保留不变）

未来AIGC与IoT场景的结合会进一步深入：

• 一方面， 基于PC和手机在云端使用AIGC应用，模型可能离线运行或本地+网络结合运行
• 另一方面， 基于LLM衍生的小模型可能应用于扫地机、智能机器人、智能音箱等终端，未来会有越来越多终端芯片需要支持AI算法。与高门槛的云端芯片相比，终端芯片普及趋势将给更多芯片公司带来机会

三、AIGC发展对芯片的新需求

1. 摩尔定律与安迪-比尔定律：基础算力提高 vs 负载算力节约

芯片界有两个著名的定律：

• 摩尔定律： 集成电路上可容纳的晶体管数目约每18个月增加一倍
• 安迪-比尔定律： 新的软件总会耗尽硬件所提高的计算能力（“安迪给的，比尔就会拿走”——安迪·葛洛夫（Intel）和比尔·盖茨（微软））

因此，云端芯片计算能力将继续提高，可能通过现有硅基芯片迭代，也可能在存算一体、光计算、量子计算方面突破。同时，软件和硬件都会努力降低对算力的需求，例如：

• 硬件侧： 谷歌开发TPU专用芯片，特定场景运行成本大幅低于同等性能GPU
• 软件侧： ChatGPT的兄弟模型InstructGPT仅用13亿参数就达到了与GPT-3千亿参数相当甚至更好的回复质量（如图6所示），说明精选数据质量、深挖Transformer模型有巨大降本潜力

图6（a）InstructGPT参数规模 （b）GPT-3参数规模

常见问题： 未来基础算力提高和软件优化哪个更重要？
答案： 两者将同时发生、相互促进。基础算力提供更强大的计算平台，软件优化则让有限算力发挥更大效用。两者的结合才是推动AIGC持续发展的关键。

2. 成本降低迫在眉睫

ChatGPT虽然火爆，但高昂的运营成本是产业化最大障碍之一。业界已提出多方向优化措施：

• 硬件侧： NVIDIA A100的升级版H100显卡提供更高性价比算力；Intel在Vision 2022大会上公布新款云端AI专用芯片Habana Gaudi 2和Greco，可能针对OpenAI场景做了特质化加速
• 软件侧： 以Colossal-AI（潞晨科技的AI大模型开发系统）为例，宣称能使Stable Diffusion模型显存消耗降低至之前的1/46

小提示： 成本降低是AIGC大规模落地的关键。未来我们会看到更多芯片厂商和算法团队联合优化，让AI“飞入寻常百姓家”。

总结

从ChatGPT的封号风波到算力困境，我们清晰地看到芯片是支撑AIGC的基石。无论是云端训练还是终端推理，无论是摩尔定律的延续还是安迪-比尔定律的演进，芯片的进步与软件优化将共同决定AI的未来。对于开发者、企业以及爱好者来说，理解芯片与AI的关系，有助于更理性地把握AIGC时代的机遇。

常见问题汇总：

• 问： 训练和推理哪个更费算力？ → 答： 训练
• 问： 必须用NVIDIA GPU吗？ → 答： 不是，还有其他选择
• 问： ChatGPT能离线运行吗？ → 答： 目前不能，但未来可能
• 问： 芯片成本会下降吗？ → 答： 会，通过硬件升级和软件优化双管齐下

（编辑：黄飞）