MFU(Model FLOPs Utilization,模型算力利用率)衡量一块加速卡的算力有多少真正花在「模型的有效计算」上:算法是拿模型的理论计算量(约 6×参数量×token 数,Transformer 经验公式)除以「芯片峰值算力 × 卡数 × 时间」,得到的百分比就是 MFU(PaLM 论文附录对该度量的经典定义,Google 2022)。它剔除了营销口径的水分——峰值算力按稀疏算,MFU 分子只算 dense 有效计算,所以跨厂商、跨精度对比时 MFU 是少数不掺水的硬指标。
行业水位参考:Google PaLM 6244 卡训练实测 46.2% MFU(PaLM 论文,bfloat16 口径),业界公认 35%–50% 区间为「训练管线调得不错」(公开论文与工程界通行口径);低于 30% 通常意味着并行策略、通信或数据管线有明显优化空间。注意分母口径:峰值按 dense 还是含稀疏、按什么精度(BF16/FP8/FP4),都会让同一个物理集群的 MFU 数字天差地别——跨报告对比必须先对齐口径。
| 项目 | 数值 / 口径 |
|---|---|
| 定义 | 有效模型计算量 ÷(峰值算力×卡数×时间) |
| 理论计算量近似 | Transformer ≈ 6 × 参数量 × token 数(Kaplan 等论文口径) |
| 行业参考水位 | 35%–50% 为调优良好(公开论文通行口径) |
| 标杆实测 | PaLM 6244 卡 46.2%(PaLM 论文,bf16) |
整柜级采购(GB200/GB300 NVL72 等)的验收核心就是 MFU:供应商营销页的「PFLOPS」是理论峰值,买家用目标模型实测 MFU 才是真金白银的交付质量——同一台柜,调得好 45%、调不好 25%,等于花同样的钱拿到差一半的有效算力。MFU 验收条款要把「模型、精度、序列长度、并行策略」四要素写死,否则口径不同永无对账基准。
买家视角:MFU 也是砍整机报价的刀——把供应商承诺的峰值算力换算成「你业务模型上的预期 MFU × 有效算力」,和竞品按同一口径对表,溢价是否值回票价一目了然;平台验货验资流程中的上机实测环节建议包含至少一轮目标模型吞吐基准。