NVLink 是 NVIDIA 的专有 GPU 直连互联总线,让多颗 GPU 之间以远超 PCIe 的带宽直接通信;第五代单卡带宽 1.8TB/s。
配套的 NVSwitch 把多颗 GPU 连成全互联矩阵——「NVL8 / NVL72」里的 NV 即由此而来:All-to-All 全互联形态。
| 项目 | 数值 / 口径 |
|---|---|
| 代际 | 第五代 NVLink |
| 单卡带宽 | 1.8TB/s |
| 典型形态 | NVL8(8 卡基板)· NVL72(72 卡整机) |
| 外部网络配套 | ConnectX-8 + Quantum-800 / Spectrum-X(800G) |
大模型的张量并行会把一个模型切开放到多颗卡上,卡间通信量巨大——NVLink 让八颗 GPU 像一颗一样协同。
八卡整机还需 800G 外部网络配套;网络没配对,八颗 GPU 就是八座孤岛。