| 规格 | NVIDIA H200 SXM | NVIDIA GB300 |
|---|
| 架构 | NVIDIA Hopper(GH100核心,TSMC 4N定制工艺,800亿晶体管,814mm²,与H100 SXM同颗GH100) | NVIDIA Blackwell Ultra(GB300超级芯片=1 Grace CPU+2 Blackwell Ultra GPU,官方开发者博客直证'couples one Grace CPU with two Blackwell Ultra GPUs';每颗Blackwell Ultra GPU为TSMC 4NP工艺/2080亿晶体管/双die合体2.5D封装,开发者博客直证'TSMC 4NP and features 208B transistors'+'Dies per GPU: 2';机柜=36颗超级芯片即72 GPU+36 CPU,官方页直证) |
| 显存 | 141GB HBM3e(6144bit总线/6.3Gbps引脚速率,官方称全球首款141GB HBM3e单卡) | 288GB HBM3e（单GPU封装；超级芯片576GB；HGX板级2.1TB/机柜20TB并存） |
| 显存类型 | HBM3e | HBM3e(GPU侧)+LPDDR5X(Grace CPU侧),官方页直证 |
| 显存位宽 | 6144bit | 未收录(官方现行页/博客/新闻稿均未单列Blackwell Ultra显存位宽,宁缺勿编) |
| 显存带宽 | 4.8TB/s(官方页+Datasheet+新闻稿+Wikipedia四源一致) | 8TB/s每GPU(官方开发者博客直证'8 TB/s per GPU';机柜'Up to 576 TB/s'÷72=8TB/s互证);超级芯片双GPU合计16TB/s(推导) |
| 算力 | FP8 Tensor Core 3,958 TFLOPS(含稀疏,密集1,979);FP16/BF16 TC 1,979*;TF32 TC 989*;INT8 TC 3,958 TOPS*;FP64 TC 67;FP32 67;FP64 34(SXM口径,*=With sparsity) | 单超级芯片口径(主值):FP4(NVFP4) TC 40 PFLOPS稀疏|30 PFLOPS稠密(官方开发者博客直证'up to 30 PFLOPS dense, and 40 PFLOPS sparse';与机柜1440|1080÷36完全互证)。单GPU口径:FP4 20稀疏|15稠密(机柜÷72;博客稠密15直证'Ultra pushes that to 15 petaFLOPS');FP8/FP6 TC 10稀疏|5稠密(博客直证'5 | 10 PetaFLOPS'+机柜720÷72互证);INT8 TC约333 TOPS稀疏(机柜24 POPS÷72;HGX板级3 POPS÷8=375,对B200单卡9000 TOPS为代际性大砍);FP16/BF16 TC 5稀疏|2.5稠密(机柜360÷72;HGX板级36÷8=4.5);TF32 TC 2.5稀疏(机柜180÷72;HGX 18÷8=2.25);FP32约83 TFLOPS(机柜6 PFLOPS÷72;HGX 600÷8=75);FP64/FP64 TC约1.39 TFLOPS(机柜100 TFLOPS÷72;HGX 10÷8=1.25,对B200单卡37为~30倍砍——Ultra把算力让位给FP4稠密)。HGX B300板级8卡口径:FP4 144|108·FP8 72·INT8 3 POPS·FP16 36·TF32 18·FP32 600 TFLOPS·FP64 10 TFLOPS(官方页直证;低功耗SKU,不与超级芯片混写) |
| 功耗 | SXM最高700W(可配置);同座H100 SXM同为700W功耗档 | TGP 最高 1400W（单GPU，官方博客直证） |
| 互联 | NVLink 900GB/s+PCIe Gen5 128GB/s;经NVSwitch组HGX H200 4/8卡全互联(8卡FP8合计超32 PFLOPS,显存合计1.1TB) | NVLink第5代 1.8TB/s双向每GPU(官方开发者博客直证'1.8 TB/s bidirectional (18 links x 100 GB/s)'+HGX B300列'GPU-to-GPU 1.8 TB/s'直证;机柜130TB/s÷72≈1.81互证);超级芯片内2 GPU经NVLink+NVLink域延伸至机柜72 GPU全互联(130TB/s aggregate官方页直证);网络:ConnectX-8 SuperNIC每GPU 800Gb/s(官方页直证,Quantum-X800 IB或Spectrum-X以太) |
| 发布年 | 2024(2023-11-13 SC23宣布,官方口径2024 Q2起OEM交付;业界通行记载2024-06-04全面GA,旁证级) | 2025(2025-03-18 GTC发布,官方新闻稿直证;'second half of 2025'出货车官方原文直证;官方HGX页脚注与机柜页'Available Now'证实现货世代) |
| SM与CUDA核 | 132 SM / 16,896 FP32 CUDA核(GH100,与H100 SXM5同源;旁证Wikipedia Hopper表) | 单Blackwell Ultra GPU:160 SM/640个第五代Tensor Core(官方开发者博客直证'160 Streaming Multiprocessors (SMs) across two dies, providing 640 fifth-generation Tensor Cores');CUDA核20,480个(160 SMx每SM 128核,博客两要素直证,乘积为推导;对初代Blackwell 160 vs 144 SM为+11%) |
| 加速频率 | 1,980MHz(旁证Wikipedia Hopper表,与H100 SXM行同列合并显示;NVIDIA官方未单列H200时钟,谨慎引用) | — |
| L2缓存 | 50MB(架构级,旁证Wikipedia) | 未收录(官方现行信源未单列Blackwell Ultra L2容量,宁缺勿编) |
| MIG切片 | 最多7实例@18GB(每实例18GB,大于H200 NVL的16.5GB与H100的10GB) | 未收录(本次实抓信源未见GB300 MIG实例数官方条目,宁缺勿编) |
| 编解码器 | 7 NVDEC + 7 JPEG | 未收录(官方页/博客/新闻稿均未见GB300编解码器数量条目,宁缺勿编) |
| 机密计算 | Confidential Computing Supported | 未收录(本次实抓信源未及Blackwell Ultra保密计算条目,宁缺勿编;Blackwell代际支持保密计算为B200卡已证,供厚词条另核) |
| 形态 | SXM模组(液冷/风冷由整机定,配HGX H200 4或8卡;AI Enterprise为Add-on另购) | 超级芯片(GB300 Grace Blackwell Ultra Superchip)——部署形态:GB300 NVL72机柜36颗超级芯片全液冷单机柜(官方页'fully liquid-cooled, rack-scale'直证,即库里1.1-1.3亿锚点那台的最小计算单元)/HGX B300 NVL16 8卡板级(风冷或液冷,OEM整机厂出货形态)/DGX B300 8卡整机14.5kW;另有GB300桌面超级芯片变体(单Grace+单Blackwell Ultra,DGX Station口径,仅注记不混入本卡) |
| CPU部分 | — | Grace CPU每超级芯片1颗,72个Arm Neoverse V2核(机柜官方页'2,592 Arm Neoverse V2 cores'÷36颗直推,官方未单列单颗原文);CPU内存LPDDR5X每颗约480GB(机柜17TB÷36=472GB推导),带宽14TB/s(机柜官方页直证);GPU+CPU合计约1TB统一内存(开发者博客直证表述) |