萬安百科 › 机型词条 › NVIDIA H100 PCIe

H100 PCIe 是 NVIDIA Hopper 世代的PCIe 卡形态(官方 Datasheet 口径,2026-11 核验): 与 SXM5 版同芯 Hopper H100——80GB HBM2e · 5016GB/s、FP16 Tensor 约 1513 TFLOPS(稀疏 3026)、 350W · 双槽被动散热 · PCIe 5.0 x16。无 NVLink(可选 NVLink 桥接器两卡 600GB/s),通信走 PCIe 5.0。 定位为推理/微调/开发的灵活部署档——独立上卡免整机,适配企业与开发者场景。
| 维度 | H100 PCIe(本词条·官方口径) | H100 SXM5(词条) |
|---|---|---|
| 显存 | 80GB HBM2e · 5016GB/s | 80GB HBM3 · 3350GB/s |
| FP16 Tensor | 1513 TFLOPS(稀疏 3026) | 1979 TFLOPS(稀疏 3958) |
| 互联 | PCIe 5.0 x16 · 可选 2 卡 NVLink 桥 600GB/s | NVLink · 900GB/s 全互联 |
| 功耗 | 350W | 700W |
| 部署 | 独立上卡免整机 | 需 SXM5 服务器板载 |
口径:H100 PCIe 列=NVIDIA 官方 Datasheet(2026-11 核验);SXM5 列=官方口径。PCIe 版显存用 HBM2e(SXM5 用 HBM3)——带宽差异如实标注。
| 项目 | 规格(NVIDIA 官方 Datasheet 口径) |
|---|---|
| 架构 | Hopper · H100 |
| 显存 | 80GB HBM2e · 5016GB/s(官方口径) |
| FP16 Tensor | 1513 TFLOPS · 稀疏 3026 TFLOPS(官方口径) |
| FP8 Tensor | 3026 TFLOPS · 稀疏 6052 TFLOPS(官方口径) |
| 功耗/形态 | 350W · 双槽被动散热 · PCIe 5.0 x16 |
| 互联 | PCIe 5.0 · 可选 NVLink 桥接器(2 卡 600GB/s) |
| MIG | 7 实例 MIG 切分(官方口径) |
| AI 栈 | CUDA 全生态 · TensorRT-LLM(推理/微调/开发·生态口径) |
| 场景 | 80GB HBM2e 的适配口径(推算:权重×精度+开销) |
|---|---|
| 70B 级 FP16 | 全量可容——推理/微调灵活部署(推算口径) |
| 175B 级量化 | 8-way 张量并行可容(推算口径)——无 NVLink 通信走 PCIe 5.0 |
| MIG 7 实例 | 单卡切 7 实例——多租户推理密度高(官方口径) |