ChatGPT 火爆背后,这些芯片将迎来大机遇
最近,ChatGPT 热潮席卷全球,这款由 OpenAI 于 2022 年 12 月推出的对话 AI 模型,仅用 2 个月就实现了月活突破 1 亿,成为历史上用户增长最快的消费级应用之一。ChatGPT 火出圈的背后是“人类反馈强化模型”的应用,它不仅能进行问答,还能推理、编写代码、文本创作等。然而,庞大的用户量也导致服务器频繁宕机(2 天宕机 5 次),这背后对算力基础设施,尤其是底层芯片提出了前所未有的高要求。那么,ChatGPT 究竟会带动哪些芯片的需求?本文将为你详细拆解。
AI 服务器需求激增
当前,ChatGPT 在问答模式的基础上进行推理、编写代码、文本创作等,用户人数及使用次数均大幅提升。同时,新应用场景(如智能音箱、内容生产、游戏 NPC、陪伴机器人)也产生了巨大的流量。随着终端用户使用频率提高,数据流量暴涨,对服务器的数据处理能力、可靠性及安全性要求相应提升。
从技术原理来看,ChatGPT 基于 Transformer 技术,随着模型不断迭代,层数越来越多,对算力的需求也越来越大。从运行条件来看,ChatGPT 完美运行的三个条件是:训练数据 + 模型算法 + 算力。它需要在基础模型上进行大规模预训练,存储知识的能力来源于 1750 亿参数,因此需要大量算力。
资料显示,ChatGPT 是基于 GPT-3.5 优化的模型,而 GPT-3.5 是 GPT-3.0 的微调版本。OpenAI 的 GPT-3.0 模型存储知识的能力来源于 1750 亿参数,单次训练费用约 460 万美元。GPT-3.5 在微软 Azure AI 超算基础设施上进行训练,总算力消耗约 3640 PF-days(即假如每秒计算一千万亿次,需要计算 3640 天)。
可以说,ChatGPT 拉动了芯片产业量价齐升:不仅对人工智能底层芯片数量产生了更大需求,而且对底层芯片算力也提出了更高要求,即拉动了高端芯片的需求。据悉,采购一片英伟达顶级 GPU 成本为 8 万元,GPU 服务器成本通常超过 40 万元。支撑 ChatGPT 的算力基础设施至少需要 上万颗英伟达 GPU A100,高端芯片需求的快速增加会进一步拉高芯片均价。
随着 ChatGPT 流量激增,作为算力载体的 AI 服务器将迎来重要发展机遇。预计全球 AI 服务器市场将从 2020 年的 122 亿美元成长到 2025 年 288 亿美元,年复合增长率达到 18.8%。
这些芯片将受益
从芯片构成来看,AI 服务器主要是 CPU + 加速芯片,通常搭载 GPU、FPGA、ASIC 等加速芯片,利用 CPU 与加速芯片的组合可以满足高吞吐量互联的需求。
1. CPU
CPU 作为计算机系统的运算和控制核心,是信息处理、程序运行的最终执行单元。其优势在于有大量的缓存和复杂的逻辑控制单元,擅长逻辑控制、串行的运算;劣势在于计算量较小,且不擅长复杂算法运算和处理并行重复的操作。因此,CPU 在深度学习中可用于推理/预测。
目前,服务器 CPU 向多核心发展,满足处理能力和速度提升需要,比如 AMD EPYC 9004 核心数量最多可达 96 个。不过,系统性能优劣不能只考虑 CPU 核心数量,还要考虑操作系统、调度算法、应用和驱动程序等。
