| 规格 | Intel Gaudi 2 | Intel Data Center GPU Max 1550 |
|---|
| 架构 | Gaudi 2 (第2代异构AI加速架构, 7nm, 单die: 2× MME 矩阵引擎 + 24× TPC 核心) | Xe-HPC 微架构,代号 Ponte Vecchio(PVC),2×Xe-Stack(每 Stack 64 Xe-core)Foveros 3D+EMIB 2D 双技术多片封装:47 functional tiles 五种工艺节点(16 计算tile TSMC N5 + 8 RAMBO 缓存tile + 2 base die Intel 7 + 8 HBM2E + 2 SerDes tile TSMC N7,11 EMIB),>1000亿晶体管 |
| 显存 | 96GB HBM2E (6× HBM2E stacks) | 128GB HBM2e(每 Xe-Stack 挂独立 HBM2e stacks;Aurora 单卡 STREAM 实测 2.1TB/s) |
| 显存带宽 | 2.45 TB/s (docs.habana.ai 官方架构页 + Databricks 2450 GB/s; Intel Gaudi 3 白皮书对比表作 2.46 TB/s, 两官方源差 0.01) | 3276.8 GB/s(ARK/Intel 系列页一致;Hot Chips 官方slide记 3.2TB/s 峰值) |
| 算力 | MME矩阵: FP8 865 / BF16 432 TFLOPS; TPC向量: BF16 11 TFLOPS (官方白皮书 Table 1, 全文无 sparse/dense 口径标注); FP8 支持 E4M3+E5M2 双格式, MME 累加 FP32 | 官方峰值(Hot Chips 34, 2-Stack):FP64 52 / FP32 52 / XMX TF32 419 / XMX BF16 839 / XMX FP16 839 TFLOPS / XMX INT8 1678 TOPS;Aurora 全机队单卡实测 GEMM 中位数(官方论文 Table 3):FP64 29.2 / FP32 44.0 / TF32 212.8 / BF16 420.3 / FP16 421.6 TF/s、INT8 854.3 TOPS(架构口径 32,768 FP64 FLOPs/时钟 × 最高1.6GHz,与两表自洽) |
| 计算引擎 | 2× MME (矩阵乘引擎) + 24× TPC (Tensor 处理器核心) | 128 Xe-cores(含 1024 XMX 矩阵引擎 + 1024 Xe Vector 引擎,XMX 4096bit 宽,向量 512bit 双发射 FP64 FMA),Register File 64MB / L1 64MB / L2(Rambo) 408MB |
| 片上SRAM | 48MB (6.4/6.4 TB/s 读/写) | — |
| 功耗 | OAM 模组: 600W TDP (Gaudi 3 白皮书 Table 8 verbatim 'TDP 600 W'; Databricks 实测口径同为每卡 600W) | 600W TDP(ARK 官方;Aurora ECP 实配为 CPU/GPU 4kW 均衡下 GPU 持续 500W 档) |
| 互联 | 24× 100GbE RoCE v2 (片内集成 RDMA NIC, 双向合计 600GB/s; 21 口用于系统内卡间 all-to-all, Databricks 旁证) + PCIe Gen4 x16 主机接口 (双向 64GB/s, 单向 32GB/s) | Xe Link 高速互联 fabric(ARK: Xe Link Max Frequency 53 Gbps;Aurora 实配双 Stack all-to-all 双平面、每链理论 28GB/s)+ PCIe Gen5 x16 主机接口(64 GB/s 设计带宽) |
| 媒体解码 | 8路媒体解码器 (HEVC / H.264 / VP9 / JPEG) | — |
| 形态 | OAM 加速模组 (600W TDP, 6×HBM2E); 主机接口 PCIe Gen4 x16 (市面 PCIe CEM 卡与 SKU 型号 HL-225B/H 说法见 spec_reference 备注, 未获官方页面证实故不入规格) | OAM 加速器模组(OAM 支持 4/8-GPU all-to-all 拓扑);Aurora 单刀片 2×Xeon CPU Max + 6×Max 1550 |
| 发布年 | 2022 (2022-05-10 Intel Vision 官宣 'Launching today', intc.com 官方新闻稿) | 2023(ARK Launch Date Q1'23;架构于 2022-02 ISSCC / 2022-08 Hot Chips 34 官方披露) |
| 显存位宽 | — | 1024 bit(ARK 官方 Graphics Memory Interface 口径) |
| 晶体管 | — | >1000亿(47 functional tiles 五种工艺) |