英伟达Rubin GPU架构首次曝光：性能提升达10倍

7月23日消息，英伟达官方发布了Rubin GPU架构技术详解，这也是英伟达即将推出的Vera Rubin平台的核心计算单元。

根据官方公布的数据，在单位能耗下，Rubin NVL72+Vera CPU的Agentic AI推理吞吐量，相比Blackwell NVL72+x86 CPU提升最高可达10倍。

Vera Rubin平台相比Blackwell的10倍智能体推理性能提升

完整的Vera Rubin NVL72机架由36个Vera CPU和72个Rubin GPU组成，有关Vera CPU我们已经介绍过，今天的重点是Rubin GPU。

整体来看，Rubin GPU采用台积电3nm N3P制程工艺，由两颗计算芯粒组成，通过NVIDIA高速片间互联接口NV-HBI统一在单个封装上。

整颗芯片集成3360亿个晶体管，拥有224个SM流处理器和896个Tensor Core张量核心，搭载第三代Transformer引擎，可提供最高50 PF的NVFP4推理性能。

Rubin GPU芯片架构框图

显存方面，Rubin集成最高288GB HBM4，共配置8组12-Hi堆叠，峰值带宽达22TB/s，相比Blackwell和Blackwell Ultra提升2.8倍。

Rubin内存带宽相比Blackwell提升2.8倍

此外，第六代NVLink提供3600GB/s扩展带宽用于GPU间全互联通信，NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信，PCIe Gen6 x16提供256GB/s主机连接。

针对当前主流MoE（混合专家）模型的扩展瓶颈，Rubin增强了Tensor Memory Accelerator（TMA），通过优化描述符管理机制，可更高效地定位和调度专家权重，减少数据搬运开销。

多个内核还可为共享相同布局的张量保留统一描述符，在运行时直接通过TMA指令覆盖内存指针和步长等字段，减少元数据管理和数据搬运开销，让更多GPU时间用于实际推理计算。

Rubin简化MoE描述符管理机制，右为Rubin架构

Rubin另一项核心升级是Tensor Core，每时钟周期的K维度吞吐量翻倍，意味着更少的循环迭代次数，Blackwell需要4次K迭代的GEMM运算，Rubin只需2次即可完成，减少了循环开销并提高了Tensor Core利用率。

左为Blackwell，右为Rubin

长上下文注意力加速是Rubin的另一大升级，Rubin将激活稀疏化与自适应压缩结合，将中间数据加载为2:4稀疏格式，仅保存非零数据及对应元数据。

后续softmax和第二注意力GEMM均可基于非零值运算，同时保持最终输出仍为标准Dense格式，在不改变模型接口的前提下减少计算量和数据搬运。

此外，Rubin还提升了Softmax及指数运算性能，FP32吞吐达到GB300水平，是GB200的2倍；BF16/FP16吞吐相比GB200提升4倍，相比GB300提升2倍。

Rubin自适应压缩稀疏化

在内核间依赖调度方面，Rubin实现了比Blackwell更精细的协调，Blackwell启动允许Kernel更早开始工作，但仍需等待激活数据可用。

而Rubin支持瓦片级触发，允许后续Kernel在所需输入数据准备完成后即可提前启动，不用等待更大范围的工作完成，从而压缩GPU时间线中的空闲间隙。

上为Blackwell批量触发，下为Rubin瓦片级触发

GPU间通信方面，Rubin引入了计数写入（Counted Writes）机制用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤，计数写入则允许接收端GPU更高效地跟踪传输完成状态，减少同步延迟，让计算不必等待同步操作。

通过计数写入加速NVLink通信，左为Blackwell，右为Rubin

在机架级能效管理上，Vera Rubin NVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。系统通过集成储能模块，可吸收GPU瞬时功率波动，平均功耗降低约10%，50毫秒峰值功耗降低约20%。

英伟达还推出DSX OS操作系统，其中集成DSX MaxLPS，可统一管理GPU、机柜、液冷系统以及AI工作负载，可在相同功率预算下多部署最多40%的GPU。