7月23日，英伟达（NVIDIA）正式公布了Rubin GPU架构的详细技术规格。作为新一代Vera Rubin平台的核心计算单元，这款芯片的亮点颇多。
数据显示，在同等功耗下，Vera Rubin NVL72搭配Vera CPU，在Agentic AI推理吞吐量方面，相比Blackwell NVL72搭配x86 CPU，最高可提升10倍。这一性能提升幅度令人瞩目。
Vera Rubin平台相比Blackwell在智能体推理性能上实现10倍提升
完整的Vera Rubin NVL72机架由36个Vera CPU和72个Rubin GPU组成。关于Vera CPU此前已有介绍，本文将重点聚焦Rubin GPU。
先看基础规格。Rubin GPU采用台积电3nm N3P工艺，由两颗计算芯粒通过NVIDIA高速片间互联接口NV-HBI统一封装。整颗芯片集成3360亿个晶体管，包含224个SM流处理器和896个Tensor Core张量核心，搭载第三代Transformer引擎，可提供最高50 PF的NVFP4推理性能。
Rubin GPU芯片架构框图
显存方面，Rubin集成了最高288GB HBM4，配置8组12-Hi堆叠，峰值带宽达到22TB/s，相比Blackwell和Blackwell Ultra提升了2.8倍。这一带宽提升对于大模型推理具有重大意义。
Rubin内存带宽相比Blackwell提升2.8倍
互联方面，第六代NVLink提供3600GB/s扩展带宽，用于GPU之间全互联通信；NVLink-C2C提供1800GB/s，用于CPU-GPU一致性通信；PCIe Gen6 x16则提供256GB/s的主机连接带宽。
针对当前主流的MoE（混合专家）模型，Rubin在扩展瓶颈上进行了针对性优化。它增强了Tensor Memory Accelerator（TMA），通过优化描述符管理机制，能够更高效地定位和调度专家权重，减少数据搬运开销。多个内核还可以为共享相同布局的张量保留统一描述符，在运行时直接通过TMA指令覆盖内存指针和步长等字段，进一步减少元数据管理和数据搬运开销，从而让更多GPU时间用于实际推理计算。
Rubin简化MoE描述符管理机制（右侧为Rubin架构）
另一核心升级是Tensor Core，每时钟周期的K维度吞吐量翻倍。这意味着更少的循环迭代次数——Blackwell需要4次K迭代的GEMM运算，而Rubin只需2次即可完成，循环开销显著降低，Tensor Core利用率也更高。
左图为Blackwell，右图为Rubin
长上下文注意力加速是Rubin的又一亮点。它将激活稀疏化与自适应压缩相结合，将中间数据加载为2:4稀疏格式，仅保存非零数据及对应元数据。后续的softmax和第二注意力GEMM都可以基于非零值运算，同时保持最终输出仍为标准Dense格式。这样一来，在不改变模型接口的前提下，计算量和数据搬运都得到了减少。
此外，Rubin还提升了Softmax及指数运算性能。FP32吞吐达到GB300水平，是GB200的2倍；BF16/FP16吞吐相比GB200提升4倍，相比GB300提升2倍。
Rubin自适应压缩稀疏化技术
在内核间依赖调度方面，Rubin实现了比Blackwell更精细的协调。Blackwell启动时，Kernel可以更早开始工作，但仍需等待激活数据可用。而Rubin支持瓦片级触发，允许后续Kernel在所需输入数据准备完成后立即提前启动，不必等待更大范围的工作完成，从而有效压缩GPU时间线中的空闲间隙。
上方为Blackwell批量触发，下方为Rubin瓦片级触发
GPU间通信方面，Rubin引入了计数写入（Counted Writes）机制，用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤，而计数写入则让接收端GPU能更高效地跟踪传输完成状态，减少同步延迟，使计算不必等待同步操作。
通过计数写入加速NVLink通信（左为Blackwell，右为Rubin）
最后，来看看机架级能效管理。Vera Rubin NVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。系统通过集成储能模块，可吸收GPU瞬时功率波动，平均功耗降低约10%，50毫秒峰值功耗降低约20%。
英伟达还推出了DSX OS操作系统，其中集成了DSX MaxLPS，可统一管理GPU、机柜、液冷系统以及AI工作负载。一个关键点在于，它能在相同功率预算下，多部署最多40%的GPU。
