| 规格 | Intel Gaudi 3 | Intel Data Center GPU Max 1550 |
|---|
| 架构 | Gaudi 3 (第5代异构AI加速架构, 2颗 identical compute die 经 interposer 桥接软件透明, TSMC 5nm) | Xe-HPC 微架构,代号 Ponte Vecchio(PVC),2×Xe-Stack(每 Stack 64 Xe-core)Foveros 3D+EMIB 2D 双技术多片封装:47 functional tiles 五种工艺节点(16 计算tile TSMC N5 + 8 RAMBO 缓存tile + 2 base die Intel 7 + 8 HBM2E + 2 SerDes tile TSMC N7,11 EMIB),>1000亿晶体管 |
| 显存 | 128GB HBM2e (8×16GB stacks, 3.6GHz, 双die统一寻址) | 128GB HBM2e(每 Xe-Stack 挂独立 HBM2e stacks;Aurora 单卡 STREAM 实测 2.1TB/s) |
| 显存带宽 | 3.7 TB/s 峰值 (官方白皮书未公开位宽, 按带宽收录) | 3276.8 GB/s(ARK/Intel 系列页一致;Hot Chips 官方slide记 3.2TB/s 峰值) |
| 算力 | MME矩阵: FP8 1678 / BF16 1678 / FP16(signed) 459 / TF32 459 / FP32 229 TFLOPS; TPC向量: FP8 57.3 / BF16 28.7 / FP16 28.7 / FP32 14.3 TFLOPS (全dense口径, 官方白皮书全文无稀疏数字) | 官方峰值(Hot Chips 34, 2-Stack):FP64 52 / FP32 52 / XMX TF32 419 / XMX BF16 839 / XMX FP16 839 TFLOPS / XMX INT8 1678 TOPS;Aurora 全机队单卡实测 GEMM 中位数(官方论文 Table 3):FP64 29.2 / FP32 44.0 / TF32 212.8 / BF16 420.3 / FP16 421.6 TF/s、INT8 854.3 TOPS(架构口径 32,768 FP64 FLOPs/时钟 × 最高1.6GHz,与两表自洽) |
| 计算引擎 | 8× MME (每MME 64K MACs) + 64× TPC核心 (双die合计) | 128 Xe-cores(含 1024 XMX 矩阵引擎 + 1024 Xe Vector 引擎,XMX 4096bit 宽,向量 512bit 双发射 FP64 FMA),Register File 64MB / L1 64MB / L2(Rambo) 408MB |
| 片上SRAM | 96MB (12.8/6.4 TB/s 读/写) | — |
| 功耗 | OAM HL-325L: 900W TDP (被动散热; 液冷亦900W) | PCIe HL-338卡: 600W TDP (被动散热) | 600W TDP(ARK 官方;Aurora ECP 实配为 CPU/GPU 4kW 均衡下 GPU 持续 500W 档) |
| 互联 | 24× 200GbE RoCE (双向合计1200GB/s, 经48×112G PAM4 SerDes; 每卡21口卡间互联+3口scale-out) + PCIe Gen5 x16 主机接口 (128GB/s, 单向64GB/s) | Xe Link 高速互联 fabric(ARK: Xe Link Max Frequency 53 Gbps;Aurora 实配双 Stack all-to-all 双平面、每链理论 28GB/s)+ PCIe Gen5 x16 主机接口(64 GB/s 设计带宽) |
| 媒体解码 | 14路媒体解码器 | — |
| 形态 | OAM HL-325L (OCP OAM 2.0 mezzanine) / PCIe HL-338 卡 (CEM 5.1) / HLB-325 通用基板 (8卡 all-to-all 全互联, 6× OSFP800 scale-out) | OAM 加速器模组(OAM 支持 4/8-GPU all-to-all 拓扑);Aurora 单刀片 2×Xeon CPU Max + 6×Max 1550 |
| 发布年 | 2024 (2024-04-09 Intel Vision 发布, Q2 2024 OEM 上市) | 2023(ARK Launch Date Q1'23;架构于 2022-02 ISSCC / 2022-08 Hot Chips 34 官方披露) |
| 显存位宽 | — | 1024 bit(ARK 官方 Graphics Memory Interface 口径) |
| 晶体管 | — | >1000亿(47 functional tiles 五种工艺) |