HBM(高带宽内存)是 DRAM 裸片垂直堆叠、与 GPU 超短距互联的显存,由 JEDEC 标准化:HBM2 定稿于 2016 年,HBM2e 把单堆栈推到 16GB;HBM3 于 2022 年发布,单针脚翻番到 6.4 Gb/s;HBM3e 再到 9.6 Gb/s、单堆栈 36GB;HBM4 标准 2025 年发布,接口加宽到 2048-bit,单堆栈 2TB/s(JEDEC 口径)。
对 AI 整机,显存世代直接决定「单卡装得下多大模型」:A100 80GB HBM2e、H100 80GB HBM3、H200 141GB HBM3e、B300 288GB HBM3e——四代机型容量与带宽逐代双升(NVIDIA 官方规格页口径,带宽 2039GB/s 到 4.8TB/s)。显存世代也是二手行情的分水岭:同样标 80GB,HBM3 与 HBM2e 是两代产品,价差按世代拉开。
| 项目 | 数值 / 口径 |
|---|---|
| HBM2 / HBM2e | 单针脚最高 3.2 → 3.6 Gb/s · 单堆栈 8 → 16GB(JEDEC 口径/SK海力士 2020 量产) |
| HBM3(2022-01 发布) | 单针脚 6.4 Gb/s · H100 80GB、3.35TB/s(JEDEC/NVIDIA 官方) |
| HBM3e | 单针脚 9.6 Gb/s · 12 层单堆栈 36GB(SK海力士 2024-09 全球首发量产) |
| HBM4(2025-04 发布) | JESD270-4 · 接口 2048-bit · 单堆栈最高 2TB/s(JEDEC 官方) |
B300 单卡 288GB HBM3e 正是族谱当前的商用顶点:官方口径显存较上代(192GB HBM3e)再增五成(NVIDIA GB300 NVL72 官方页),八卡 NVL8 合计约 2.3TB——FP8 口径下 671B 参数的满血大模型整机装下还有余。读报价先问显存世代:同是 288GB,HBM3e 与 HBM4 在 2026 年市场开始并行,平台价值与行情按世代分层。
验货视角:显存堆栈是 HBM 供应三巨头(SK海力士/三星/美光)的原厂产品,代际要靠丝印与官方固件报告核对,防止以旧代新;A100 世代的 HBM2e 与 H100/H200 世代的 HBM3/HBM3e 外观相似、行情价差一倍不止,跨代机型混报是二手市场常见坑。