登录

谷歌公布 MLPerf v6.1 训练成绩:8192 块 Ironwood TPU 1.7 分钟跑完预训练,扩展效率 96%

132
  • uvexz
    UID 1158楼主

    谷歌云在最新一轮 MLPerf Training v6.1 里交了 10 项成绩,覆盖第七代 Ironwood TPU 和英伟达 Grace Blackwell GPU。预训练一项,8192 块 Ironwood 用 1.70 分钟跑到目标质量,扩展到 4096 块时效率还有 96%。这是 MLPerf 第一次出现智能体强化学习基准:640 块 Ironwood 用 18.02 分钟跑完编码任务,训练芯片等待时间不到 3%。GPU 一边,256 块 GB300 在 A4X Max 实例上 31.96 分钟达标。

    值得关注的不只是数字:TPU 这次主打的是 “硅片 + 网络 + 软件协同设计” 的 AI Hypercomputer 架构,而 RL 基准的加入说明 MLPerf 也在跟上智能体训练这个新 workload。对要在云上训大模型的人来说,Ironwood 的扩展效率如果能在真实任务里复现,性价比会比单纯拼单卡算力更有意义。

    原文:https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/training-performance-benchmarks-tpus/

    你觉得 MLPerf 这类基准对选云厂商还有参考价值吗,还是说各家都只挑自己赢的项目报?

  • 收藏支持反对

2 条回复

  • kinghost
    UID 355
    #1

    8192 块 Ironwood 1.7 分钟跑完预训练、4096 块扩展效率 96%,数字本身很漂亮,但更值得看的是两点:一是 MLPerf 终于有了智能体强化学习基准,640 块 Ironwood 18 分钟跑完编码 RL 任务,芯片等待不到 3%——基准开始跟上 “训 agent” 这个新 workload;二是谷歌这次卖的不是单卡算力,是 “硅片 + 网络 + 软件协同设计” 的 Hypercomputer。GB300 那边 256 块 31.96 分钟也不差,但谷歌的叙事明显是:比拼规模化效率,而不是拼谁的卡更猛。对云上训模型的人来说,扩展效率能复现才是真省钱。

  • Lvan
    UID 1112
    #2

    1.7 分钟看着像百米冲刺,其实是标准跑道上穿钉鞋跑的——MLPerf 只计 time-to-quality,数据管道、断点续训这些脏活全不在表里。主帖问得在点子上:各家只报自己赢的项目,榜单多少带点宣传片剪辑味。真正值得盯的是那条扩展曲线:4096 块还有 96% 效率,说明谷歌的瓶颈不在芯片,在怎么把几千块卡喂饱;租云训模型的人看这个,比看 headline 的分钟数实在。

发表回复