HBM(高带宽内存)是把 DRAM 裸片垂直堆叠、与 GPU 超短距互联的显存形态;HBM3e 是其最新商用演进。它解决的是同一个问题:大模型时代,数据喂进算力核心的速度不能成为瓶颈。
对 AI 整机而言,显存容量直接决定「能装下多大的模型」——这也是 B300 这一代机型最显眼的参数:单卡 288GB。
| 项目 | 数值 / 口径 |
|---|---|
| 单卡容量(B300) | 288GB HBM3e |
| 八卡合计(NVL8) | 约 2.3TB |
| 对比上一代 H100 | 80GB(HBM3) |
| 对比 H200 | 141GB(HBM3e) |
估算模型显存占用有一个粗暴好用的公式:FP8 权重 ≈ 参数量 × 1 字节。DeepSeek R1 满血版 671B 参数,FP8 权重约 690GB——单卡装不下,但 B300 NVL8 整机 2.3TB 总显存可以满血单机部署,余量充裕。
显存也是行情分水岭:同系列机型因显存配置不同(如 3TB 与 4TB 款),价差可达百万级。