随着以大模型为代表的AIGC迅速崛起，数据到算力需求的持续暴涨，为数据中心带来了巨大的考验。为填补算力鸿沟，下一代数据中心必须要具备更高的算力密度、更大的网络规模，并能够灵活地部署和更新海量新应用。在这场技术变革中，异构计算架构和Chiplet技术被视为通往未来的能效之路。本教程将带你深入&浅出地理解这些技术如何应对数据中心面临的挑战。

一、AIGC带来的算力挑战：“缺口”是如何形成的？

AI大模型的飞速发展，对数据中心提出了前所未有的算力需求。这种需求是巨大且持续增长的。

1. 算力需求有多“饥渴”？

• 训练成本高企： 单个大语言模型的训练驱动了AI训练服务器需求约2亿美元。
• 推理市场庞大： 例如ChatGPT，其在初期阶段就能带动AI推理服务器需求约45亿美元。
• 市场规模激增： 据中国信通院数据，2021年国内IDC市场规模达1500.2亿元，预计2022年将增至1900.7亿元，同比增长26.7%。

2. 算力缺口为何越来越大？

• 算力即“引擎”： 大模型的计算方式很直接，实际拥有的GPU芯片数量直接决定了算力大小。例如，ChatGPT的计算主要依赖于微软的Azure云服务。
• 需求是动态递增的： AIGC所需的算力不是固定的，而是逐次递增的。 简单来说，AIGC越聪明，其背后需要的算力就越多，这导致供需双方的现实差距不断扩大。
• 互联网厂商加剧竞争： 互联网厂商纷纷布局ChatGPT同类产品，将进一步加大核心城市IDC的算力供给缺口。数据显示，2021年国内IDC行业下游客户中，互联网厂商占比高达60%。

小提示： 你可以将数据中心的算力缺口想象成一个“饥饿的巨兽”，AIGC的发展就是它的“胃口”，而GPU芯片就是它的“食物”。随着“胃口”越来越大，“食物”的供给就显得越来越紧张。

常见问题

Q: 为什么AIGC的算力需求是递增的？

A: 因为AI模型需要不断学习和优化。模型越复杂、越智能，其训练和推理过程中需要处理的数据量和计算量就越大，这直接导致了对算力需求的持续增长。例如，一个能生成高清视频的模型，其算力需求远大于一个只能生成文字的模型。

二、应对之道：智能算力与GPU的崛起

面对挑战，传统以CPU为中心的计算架构已经力不从心。新的需求推动了计算方式的变革，智能算力开始占据主导地位。

1. 从通用算力到智能算力

• 结构变化： 传统CPU主导的通用计算力比例正在下降，而由GPU主导的智能计算力比例逐渐增加。
• GPU成为主力： 目前，GPU在AI芯片市场的占比约为90%。
• 市场前景广阔： 根据VMR数据，全球GPU行业市场规模预计将从2021年的334.7亿美元，增长到2030年的4773.7亿美元，年均增长率高达34.35%。

2. 为什么GPU更胜一筹？

• CPU的局限： x86架构的CPU单核性能强，通用性好，但AI场景需要的是多核、高并发、高带宽的芯片。
• 专用芯片的优势： 综合考虑成本和效率，GPU、DPU、NPU等专用芯片在AI场景下表现更好。CPU的部分职能被这些专用芯片分担。

正如新华三集团副总裁徐润安所言：“大模型会带来巨大的智能算力消耗。”

小提示： 你可以把CPU想象成一位“全能科学家”，什么都能做，但一次只能处理一个复杂问题。而GPU则像一群“高效工人”，可以同时处理成千上万个简单任务，非常适合AI模型训练这种大规模的并行计算。

常见问题

Q: 智能算力是不是只包含GPU？

A: 不完全是。智能算力主要由GPU主导，但也包括DPU（数据处理器）、NPU（神经网络处理器）等专为AI、大数据、高性能计算等场景设计的芯片。它们共同分担了CPU的负担，实现了更高效的算力供给。

三、破局未来：Chiplet技术如何重塑数据中心？

单纯依靠制程微缩已经无法满足数据中心对性能的迫切需求。就像建房子，不能只靠把砖头做得更小，而要改变建筑方式。于是，Chiplet 技术应运而生。

1. 什么是Chiplet？

Chiplet是一种异构集成路线，它将计算单元、内存、I/O接口等不同功能的模块，像“乐高积木”一样封装在一个芯片上。这种架构对于服务器处理器意义非凡，大大降低了开发门槛和成本。

2. Chiplet的优势与行业认可

• 显著降低成本： 正如AMD开创性的Chiplet产品所证明的那样，转向Chiplet技术可以显著改善数据中心的计算成本，并提高互连效率。
• 行业主流趋势： 全球主流服务器芯片厂商都已将Chiplet纳入自身产品的主要路径之一。
• 专家观点：
  • 英特尔IO技术解决方案团队战略家Kurt Lender表示：“有合理的预期，未来10年的HPC采购将利用chiplet技术更好地支持他们的科学工作负载。”
  • AMD CEO Lisa Su也预测，未来10年的HPC采购将指定定制chiplet设计的计算芯片，而不是现成的商品。

3. Chiplet的成本优势具体体现在哪里？

Kurt Lender总结了基于UCIe的Chiplet设计在成本方面的显著优势：

• 高良率节省成本： 与单片硅设计相比，Chiplet的模块更小，良率更高，从而节省了成本。
• 灵活封装： 能够指定可以利用HPC冷却功能的高密度、高功率封装。
• 快速集成： 基于Chiplet的架构，使设计人员能够将来自多个供应商的IP和不同工艺技术的芯粒，快速集成到一个封装中。

小提示： 想象一下，以前要造一个巨大的、复杂的、功能单一的“超级芯片”（Monolithic），一旦有缺陷就报废。现在，我们可以用Chiplet技术，用几个小的、成熟的、功能各异的“芯片积木”拼起来，不仅成本低，而且可以灵活组合，升级换代也更快。

常见问题

Q: Chiplet技术相比传统的SoC（片上系统）有什么优势？

A: 传统SoC将所有功能模块集成在一个大芯片上，设计复杂、成本高、良率低。而Chiplet将大芯片拆分成多个小芯片，每个小芯片可以用更成熟的工艺制造，从而提高良率、降低成本，并且可以灵活组合不同工艺的模块（例如，用先进工艺做计算核心，用成熟工艺做I/O接口），实现性能和成本的平衡。

异构计算与Chiplet技术正成为解决数据中心算力瓶颈的关键路径。它们通过更高效的架构和更灵活的集成方式，为应对AIGC时代的海量需求提供了切实可行的方案。未来，这两种技术将如何进一步推动数据中心的发展，值得我们持续关注。