先看几个数据。据 TrendForce 统计，2023 年 AI 服务器出货量预计达到 13 万台，在全球服务器出货中占比虽仅约 1%，但增速相当可观。随着微软、Meta、百度、字节跳动等巨头相继加码生成式 AI 产品，2023 年 AI 服务器出货量年增长率有望达到 15.4%。更长远来看，2023-2027 年间，AI 服务器出货量预计将保持 12.2% 的年复合增速。这意味着，AI 服务器正从“尝鲜”阶段快速进入规模化部署期，而支撑这一切的核心，除了算力芯片本身，还有一套精密的互联体系。

以 NVIDIA 的 DGX H100 为例。这台 2022 年推出的旗舰系统，配备了 8 块 H100 GPU，晶体管数量高达 6400 亿，在全新 FP8 精度下，AI 性能比上一代提升了 6 倍。内部架构上，蓝色方块是 IP 网卡，它同时扮演着网卡和 PCIe Switch 扩展的角色，成为 CPU 与 GPU（H100）之间的桥梁，采用 PCIe 5.0 标准。此外，CX7 以网卡芯片的形式做成 2 块板卡插入服务器，每 4 个 CX7 芯片组成一块板卡，对外输出 2 个 800G OSFP 光模块口。

而 GPU 之间的互联则靠 NV Switch 芯片。每个 DGX H100 内的一个 GPU 伸出 18 个 NVLink，单链双向带宽为 50 GB/s，合计 900 GB/s 的双向带宽，这些链路被拆分到 4 个板载的 NV Switch 上，每个 NV Switch 对应 4-5 个 OSFP 光模块（共 18 个）。每个 OSFP 光模块采用 8 个光通道，单通道速率为 100Gbps，总速率飙到 800Gbps。高速、高密度、低延迟——这就是现代 AI 服务器的互联法则。

1、CPU、GPU 等组件互联：PCIE Switch、Retimer 芯片

首先要聊的，是服务器内部最常见的互联方案——PCIe Switch。它的本质是 PCIe 的信号交换机，核心任务是把不同 PCIe 设备连到一起。由于 PCIe 链路是端对端的通信模式，一旦需要连接多个设备，就需要 Switch 来扩展或聚合，解决 PCIe 通道不足的问题。目前，PCIe Switch 不仅广泛应用于传统存储系统，在服务器平台也日渐普及，成为提升数据传输速度的关键。

PCIe 总线技术本身也在不断升级。从 2003 年 PCIe 1.0 诞生，单通道速率仅 250 MB/s，到 2022 年 PCIe 6.0 正式发布，速率飙升至 64 GT/s。每一代速率的跃升，都在推动服务器性能的边界。而随着 PCIe 在服务器中广泛应用，PCIe Switch 的需求也被激活。根据 QYResearch 的统计，2021 年全球 PCIe 芯片市场规模约 7.9 亿美元，预计 2028 年达到 18 亿美元，年复合增长率 11.9%。

中国是 PCIe Switch 最大的市场。在大数据、云计算、人工智能等领域，海量数据存储与传输对高速互联解决方案的需求尤为迫切。PCIe Switch 作为其中的关键一环，在中国市场空间巨大。

在 AI 服务器中，GPU 与 CPU 连接时，至少需要一颗 Retimer 芯片来保证信号质量。很多 AI 服务器甚至会配置多颗 Retimer，比如 Astera Labs 在其翻跟斗中就放了 4 颗。PCIe Retimer 市场目前呈现三足鼎立之势，主要玩家是谱瑞-KY、Astera Labs 和澜起科技。澜起科技是全球可量产 PCIe 4.0 Retimer 的唯一中国大陆供应商，PCIe 5.0 Retimer 研发进展顺利。

此外，瑞萨、TI、微芯科技等也在积极投入。瑞萨提供了两款 PCIe 3.0 Retimer，TI 有 16Gbps 8 通道 PCIe 4.0 Retimer DS160PT801，微芯科技则在 2020 年发布了支持 PCIe 5.0 的 XpressConnect 系列。这个市场，正从寡头格局走向热闹的竞赛。

2、GPU 与 GPU 连接：NVLink、NVSwitch

GPU 之间的互联，是整个 AI 训练效率的关键瓶颈之一。全球各大芯片厂商都在抢占高速接口赛道，除了 NVIDIA 的 NVLink，AMD 的 Infinity Fabric 和 Intel 的 CXL 也各自提供了解决方案。

NVLink 自 2016 年首次亮相，至今已迭代四代。第一代 NVLink 搭载于 Pascal GP100 GPU，单链双向带宽 40 GB/s，单芯片可支持 4 条链路，总带宽 160 GB/s。2017 年，基于 Volta 架构的第二代 NVLink 推出，单链升至 50 GB/s，链路数增至 6 条，总带宽达 300 GB/s。2020 年的第三代（Ampere 架构）进一步将链路数翻倍到 12 条，总带宽 600 GB/s。2022 年的第四代（Hopper 架构）则将信号变为 PAM4 调制，单链保持 50 GB/s 的同时，链路数达到 18 条，总带宽飙至 900 GB/s。

NVSwitch 的出现，则是为了解决多 GPU 间的通信瓶颈。第一代 NVSwitch 采用台积电 12nm FinFET 工艺，拥有 18 个 NVLink 2.0 接口，一台服务器可通过 12 个 NVSwitch 支持 16 个 V100 GPU。目前第三代 NVSwitch 采用 TSMC 4N 工艺，每颗芯片上集成 64 个 NVLink 4.0 端口，GPU 间通信速率可达 900 GB/s，这些通过 NVSwitch 互联的 GPU，可以当作一个高性能翻跟斗来使用，具备深度学习的完整能力。

3、CPU 与 DRAM 高速互联，拉动内存接口芯片

服务器内存模组主要分为 RDIMM 和 LRDIMM 两类，对稳定性、纠错能力和低功耗要求极高。内存接口芯片是服务器内存模组的核心逻辑器件，也是 CPU 访问内存数据的必经之路。它的作用是提升内存数据读写速度和稳定性，满足服务器对高性能、大容量的要求。

从 DDR4 到 DDR5，内存接口芯片的速率持续升级。DDR4 时代，从 Gen1.0 到 Gen2plus，支持的最高传输速率逐步从 2400 MT/s 攀升至 3200 MT/s。DDR5 时代，规划了三个子代：4800 MT/s、5600 MT/s、6400 MT/s，业界预计后续可能还有 1-2 个子代。DDR5 的升级，直接推动了内存接口芯片市场规模的攀升。2016 年全球内存接口芯片市场约 2.8 亿美元，2018 年增长至 5.7 亿美元，三年年化增长率高达 40%。

内存接口芯片分为两类：寄存缓冲器（RCD）和数据缓冲器（DB）。RCD 负责缓冲地址、命令和控制信号，DB 负责缓冲数据信号。这个行业壁垒极高，需要通过 CPU、内存和 OEM 厂商的全方位严格验证，新玩家很难进入。从 DDR2 时代的十多家厂商，到 DDR4 时代只剩三家，行业基本出清，三足鼎立格局已经形成。目前，DDR5 第一子代产品只有三家供应商能量产：澜起科技、瑞萨电子（IDT）和 Rambus。