NVIDIA Vera Rubin NVL72 在 MLPerf Training v6.1 首次提交成绩,七个基准中六个取得最快训练时间,单 GPU 性能最高为优化后 GB300 NVL72 的 2 倍。这些数字来自厂商提交的封闭组基准,适合判断新一代 GPU 平台的代际方向,不能直接等同于你的业务在云上会快一倍。本文面向需要评估云 GPU 训练实例的开发者与中小企业技术团队,逐项拆解成绩含义、适用范围和选型时要补的验证步骤。

这次首秀到底公布了什么
按 NVIDIA 开发者博客 2026 年 11 月 16 日发布的文章,Vera Rubin NVL72 在 MLPerf Training v6.1 封闭组完成全部七项基准,其中六项为最快训练时间。文中引用的 MLPerf 成绩检索自 mlcommons.org,检索日期同为 2026 年 11 月 16 日,并附有各基准的提交编号,便于回查。
需要区分三类信息:一是 MLCommons 封闭组已审核的提交结果;二是 NVIDIA 在博客中自行披露的、提交定稿后用更新软件栈复跑的结果,博客明确标注未经 MLCommons 审核;三是博主或媒体的解读。前两类中,只有第一类可以当作可比的基准成绩引用。
逐项基准:2 倍提升为什么只出现在一个负载上
博客表 1 给出各基准相对 GB300 NVL72 的单 GPU 性能倍数。下表按原文数据整理,GPU 数量为提交时的规模。
| 基准 | 模型类型 | GPU 数量 | 相对 GB300 NVL72 单 GPU 性能 |
|---|---|---|---|
| DeepSeek-V3 671B | 混合专家 MoE | 1024 | 2x |
| Qwen3.5 397B GRPO(强化学习) | 混合专家 MoE | 64 | 1.4x |
| gpt-oss 20B | 混合专家 MoE | 64 | 1.6x |
| Llama 2 70B LoRA | 稠密 | 72 | 1.5x |
| Llama 3.1 8B | 稠密 | 72 | 1.6x |
| FLUX.1 | 扩散模型 | 72 | 1.5x |
| DLRMv4 | 推荐模型 | 128 | 1.4x |
数据来源:MLPerf Training v6.1 封闭组,检索自 mlcommons.org,检索日期 2026-11-16;提交编号 6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129、6.1-0038。
2 倍只出现在 DeepSeek-V3 671B。这是一个 6710 亿参数的混合专家模型,专家并行会把每轮迭代变成密集的全互连通信,网络效率直接决定训练时长。Vera Rubin NVL72 用 1024 GPU、16 个机架把训练时间压到 4.14 分钟,GB300 NVL72 同规模为 8.03 分钟。其余负载集中在 1.4 到 1.6 倍,说明代际收益随模型结构和通信占比变化,不是所有任务都能拿到 2 倍。
同期 GB300 NVL72 用 10240 GPU 跑出本轮绝对最快成绩,DeepSeek-V3 训练耗时 1.38 分钟。这组数据说明大规模集群的扩展能力仍是 Blackwell 一代的强项,Vera Rubin 本轮展示的是单 GPU 效率与机架内扩展效率。
扩展效率与网络:多机训练选型要看的部分
在 DeepSeek-V3 基准上,Vera Rubin NVL72 从 256 GPU 扩展到 1024 GPU 保持 97% 以上扩展效率。对做多机训练的团队,这个指标比单卡峰值更有参考价值:它意味着增加机架时,通信开销没有把算力收益吃掉太多。
支撑这一结果的是机架内铜缆 NVLink 6,连接 72 个 GPU 与 36 个 CPU,每 GPU 带宽 3.6 TB/s;机架间通过 ConnectX-9 SuperNIC 走 Quantum-X800 InfiniBand 或 Spectrum-X 以太网。NVLink 是机架内 GPU 之间的高速互连,决定专家并行这类全互连通信能否藏在计算之后;InfiniBand 与以太网则是跨机架扩展的外部网络。选购云实例时,如果供应商只写 GPU 型号,不说明机架内互连和跨机架网络,多机训练的实际表现就难以预估。
新增 GRPO 后训练基准意味着什么
MLPerf Training v6.1 首次加入智能体大模型强化学习后训练基准 Qwen 3.5 397B GRPO。Vera Rubin NVL72 在 1024 GPU 下用时 10.44 分钟,GB300 NVL72 同规模为 13.78 分钟。博客还提到该平台分别用 TensorRT-LLM 和 vLLM 两种推理后端提交,时间分别为 10.44 分钟和 10.94 分钟。
对做智能体产品的团队,这条信息的意义在于算力规划对象变了:后训练需要反复生成 rollout、打分、更新权重,训练与推理引擎之间的权重迁移频繁,负载不再是单纯的预训练。评估云实例时,除了看训练基准,还要确认实例对 TensorRT-LLM、vLLM 等推理后端的支持情况,以及 CPU 资源是否够跑并发环境模拟。博客提到 Vera CPU 在单机架 256 CPU 下支撑超过 22500 个并发强化学习环境,这类 CPU 侧配置同样影响后训练吞吐。
对云 GPU 选型的实际影响
单 GPU 性能提升会减少完成同一训练任务所需的 GPU 卡时,但云上账单是训练时长乘以实例单价,还叠加存储、网络和闲置成本。在云厂商公布 Vera Rubin 实例的计费方式与报价之前,无法仅凭 2 倍这个数字判断性价比。博客称该系统已通过云基础设施伙伴提供,具体上线地区、可用区和计费口径需要以各云厂商官方页面为准。
可以按负载类型分场景判断预期收益:
- 以 MoE 大模型预训练或大规模微调为主,通信密集,代际收益可能接近 2 倍,值得优先评估新平台。
- 以中小稠密模型微调、扩散模型生成或推荐模型训练为主,预期收益更接近 1.4 到 1.6 倍,需结合实例单价核算。
- 以智能体后训练为主,除 GPU 外要同时评估 CPU 并发能力与推理后端兼容性。
- 需要超大规模单任务训练,现有 Blackwell 一代的大集群成绩仍具参考价值,不必急于迁移。
采购前的验证步骤
- 确认目标云厂商是否已提供 Vera Rubin NVL72 实例,记录实例规格:GPU 数量、机架内互连类型、跨机架网络、CPU 核数、内存容量、本地磁盘类型与容量、计费方式(按秒、按小时或包月)。
- 用自有模型在 256 GPU 与 1024 GPU 两个规模各跑一次短程训练,记录每步耗时和扩展效率,与博客的 97% 扩展效率做方向性对照,而不是直接比对绝对值。
- 核对推理后端:如果业务包含后训练,测试 TensorRT-LLM 与 vLLM 在目标实例上的可用版本和吞吐。
- 按「训练时长 × 实例单价 + 存储与网络费用」估算单次实验成本,并区分首购优惠与续费价格。
- 关注实例所在地区到团队办公网络与数据源的链路质量。涉及中国大陆访问海外实例时,管理链路和训练数据上传路径可能经过不同运营商线路,应在目标时段分别测试延迟与丢包,并记录测试地区、运营商和时段。
操作提醒:在云上做大规模训练前,先设置预算告警和实例数量上限,避免扩缩容脚本失控产生超额费用;训练检查点写入对象存储前确认生命周期规则,防止中间产物长期占用容量。
还需要核实的信息
本轮公开材料中缺少 AMD、Intel 等厂商在 MLPerf Training v6.1 同轮的提交成绩,无法做跨厂商对照。NVIDIA 博客中提交定稿后的复跑结果未经 MLCommons 审核,不能与正式成绩等同引用。各云厂商 Vera Rubin 实例的报价、可用区与 SLA 尚未在本文核实,因此不列具体价格。MLPerf Endpoints v1.0 智能体推理基准的完整数据也未纳入本文范围。
后续值得观察三点:第三方厂商同轮成绩公布后能否形成有效对照;云厂商实例报价与计费方式落地后,单位训练成本是否真的下降;软件栈持续优化能否让已交付硬件继续提速。对多数团队,合理做法是先在目标云厂商处申请小规模实例,用自有负载验证扩展效率,再决定是否扩大规模。
常见问题
2 倍性能是否意味着云上训练费用减半?
不一定。费用取决于实例单价、训练时长、存储与网络开销。单 GPU 性能提升会缩短训练时间,但如果新平台实例单价更高,单位任务成本可能持平甚至上升,需要按实际报价核算。
现在就应该把训练任务迁到 Vera Rubin 吗?
取决于负载类型和云厂商供给。MoE 大模型与智能体后训练受益更明显;中小模型微调收益在 1.4 到 1.6 倍区间,迁移前应比较迁移成本和实例可得性。
MLPerf 成绩能代表我的业务表现吗?
不能直接代表。MLPerf 封闭组使用固定模型、固定数据集和规定精度,结果是可复现的横向参照,不是业务吞吐承诺。自有数据管道、批大小和并行策略都会改变实际表现。
博客里的未验证复跑结果可以引用吗?
可以提及,但必须标注未经 MLCommons 审核,不能与正式提交成绩混用。做采购决策时应以已审核成绩和自有测试为准。
评估云 GPU 实例时最容易被忽略的参数是什么?
机架内互连与跨机架网络。多机训练中通信开销常是瓶颈,只比较 GPU 型号和数量容易高估实际吞吐。
本文由网上采集发布,不代表我们立场,转载联系作者并注明出处:https://www.uuccloud.com/12093.html
