FP8 是 8 位浮点数格式,当前 AI 训练与推理的主流低精度格式:显存占用减半、带宽压力减半、速度更快。
粗算公式:FP8 权重 ≈ 参数量 × 1 字节。671B 参数的模型,FP8 权重约 690GB。
| 项目 | 数值 / 口径 |
|---|---|
| 位数 | 8 bit(对比 FP16 = 16 bit) |
| B300 FP4 推理算力 | 约 1.1 PFLOPS(稠密)/ 单卡 |
| 显存估算 | 参数量 × 1 字节(FP8) |
| 主流用途 | 大模型推理 / 训练混合精度 |
Blackwell 代把低精度一路做到 FP4;FP8 是当前推理部署的主流精度。选型时「显存够不够」基本等于「参数量 × 1 字节装不装得下」。
验货视角:算力与显存参数以基准实测为准,软件截图可造假。