| 规格 | Intel Gaudi 2 | Intel Gaudi 3 |
|---|
| 架构 | Gaudi 2 (第2代异构AI加速架构, 7nm, 单die: 2× MME 矩阵引擎 + 24× TPC 核心) | Gaudi 3 (第5代异构AI加速架构, 2颗 identical compute die 经 interposer 桥接软件透明, TSMC 5nm) |
| 显存 | 96GB HBM2E (6× HBM2E stacks) | 128GB HBM2e (8×16GB stacks, 3.6GHz, 双die统一寻址) |
| 显存带宽 | 2.45 TB/s (docs.habana.ai 官方架构页 + Databricks 2450 GB/s; Intel Gaudi 3 白皮书对比表作 2.46 TB/s, 两官方源差 0.01) | 3.7 TB/s 峰值 (官方白皮书未公开位宽, 按带宽收录) |
| 算力 | MME矩阵: FP8 865 / BF16 432 TFLOPS; TPC向量: BF16 11 TFLOPS (官方白皮书 Table 1, 全文无 sparse/dense 口径标注); FP8 支持 E4M3+E5M2 双格式, MME 累加 FP32 | MME矩阵: FP8 1678 / BF16 1678 / FP16(signed) 459 / TF32 459 / FP32 229 TFLOPS; TPC向量: FP8 57.3 / BF16 28.7 / FP16 28.7 / FP32 14.3 TFLOPS (全dense口径, 官方白皮书全文无稀疏数字) |
| 计算引擎 | 2× MME (矩阵乘引擎) + 24× TPC (Tensor 处理器核心) | 8× MME (每MME 64K MACs) + 64× TPC核心 (双die合计) |
| 片上SRAM | 48MB (6.4/6.4 TB/s 读/写) | 96MB (12.8/6.4 TB/s 读/写) |
| 功耗 | OAM 模组: 600W TDP (Gaudi 3 白皮书 Table 8 verbatim 'TDP 600 W'; Databricks 实测口径同为每卡 600W) | OAM HL-325L: 900W TDP (被动散热; 液冷亦900W) | PCIe HL-338卡: 600W TDP (被动散热) |
| 互联 | 24× 100GbE RoCE v2 (片内集成 RDMA NIC, 双向合计 600GB/s; 21 口用于系统内卡间 all-to-all, Databricks 旁证) + PCIe Gen4 x16 主机接口 (双向 64GB/s, 单向 32GB/s) | 24× 200GbE RoCE (双向合计1200GB/s, 经48×112G PAM4 SerDes; 每卡21口卡间互联+3口scale-out) + PCIe Gen5 x16 主机接口 (128GB/s, 单向64GB/s) |
| 媒体解码 | 8路媒体解码器 (HEVC / H.264 / VP9 / JPEG) | 14路媒体解码器 |
| 形态 | OAM 加速模组 (600W TDP, 6×HBM2E); 主机接口 PCIe Gen4 x16 (市面 PCIe CEM 卡与 SKU 型号 HL-225B/H 说法见 spec_reference 备注, 未获官方页面证实故不入规格) | OAM HL-325L (OCP OAM 2.0 mezzanine) / PCIe HL-338 卡 (CEM 5.1) / HLB-325 通用基板 (8卡 all-to-all 全互联, 6× OSFP800 scale-out) |
| 发布年 | 2022 (2022-05-10 Intel Vision 官宣 'Launching today', intc.com 官方新闻稿) | 2024 (2024-04-09 Intel Vision 发布, Q2 2024 OEM 上市) |