SECTIONS
EDITIONS
NETWORK
萬安百科算力领域的百科全书

萬安百科 › 技术概念 › MFU 模型算力利用率

MFU 模型算力利用率

MODEL FLOPS UTILIZATION · 技术概念词条

概述OVERVIEW

MFU(Model FLOPs Utilization,模型算力利用率)衡量一块加速卡的算力有多少真正花在「模型的有效计算」上:算法是拿模型的理论计算量(约 6×参数量×token 数,Transformer 经验公式)除以「芯片峰值算力 × 卡数 × 时间」,得到的百分比就是 MFU(PaLM 论文附录对该度量的经典定义,Google 2022)。它剔除了营销口径的水分——峰值算力按稀疏算,MFU 分子只算 dense 有效计算,所以跨厂商、跨精度对比时 MFU 是少数不掺水的硬指标。

行业水位参考:Google PaLM 6244 卡训练实测 46.2% MFU(PaLM 论文,bfloat16 口径),业界公认 35%–50% 区间为「训练管线调得不错」(公开论文与工程界通行口径);低于 30% 通常意味着并行策略、通信或数据管线有明显优化空间。注意分母口径:峰值按 dense 还是含稀疏、按什么精度(BF16/FP8/FP4),都会让同一个物理集群的 MFU 数字天差地别——跨报告对比必须先对齐口径。

关键数字KEY NUMBERS

项目数值 / 口径
定义有效模型计算量 ÷(峰值算力×卡数×时间)
理论计算量近似Transformer ≈ 6 × 参数量 × token 数(Kaplan 等论文口径)
行业参考水位35%–50% 为调优良好(公开论文通行口径)
标杆实测PaLM 6244 卡 46.2%(PaLM 论文,bf16)

在 B300 上的意义ON B300

整柜级采购(GB200/GB300 NVL72 等)的验收核心就是 MFU:供应商营销页的「PFLOPS」是理论峰值,买家用目标模型实测 MFU 才是真金白银的交付质量——同一台柜,调得好 45%、调不好 25%,等于花同样的钱拿到差一半的有效算力。MFU 验收条款要把「模型、精度、序列长度、并行策略」四要素写死,否则口径不同永无对账基准。

买家视角:MFU 也是砍整机报价的刀——把供应商承诺的峰值算力换算成「你业务模型上的预期 MFU × 有效算力」,和竞品按同一口径对表,溢价是否值回票价一目了然;平台验货验资流程中的上机实测环节建议包含至少一轮目标模型吞吐基准。

边界与注意LIMITS

  • 口径敏感是 MFU 最大的坑:稀疏峰值、不同精度的峰值算力做分母,MFU 可以差出一倍以上;跨厂商对比前先把分母口径统一到 dense bf16 等效,否则数字没有可比性。
  • MFU 不是越高越好的唯一标准:为了堆 MFU 牺牲收敛质量(过小 batch、激进并行切分)或模型效果,属于把指标练歪——验收时 MFU 与下游效果指标要一起看。

参考资料REFERENCES

  1. NVIDIA 官网 — Blackwell Ultra / HGX B300 产品页 https://www.nvidia.com/en-us/data-center/hgx/
  2. 行情与流通数据:萬安算交所(本库行情带)
版本与勘误|本词条由萬安百科编辑部维护,AI 辅助起草、人工核验事实。更新于 2026-10-28 · 版本 v1.0 · 历次改动均留痕可查。
本库
编辑政策关于本库(利益声明)勘误通道
编辑宪法摘要
每条断言带出处缺点必写 · 勘误公开留痕不接受付费词条词条内零导流与销售元素行情数据仅作数据模块挂载
萬安家族
萬安百科萬安算交所萬安资讯
行情盘点:萬安算交所 · © 2026 萬安百科 AIXX Pedia · 萬安出品