萬安百科 › 机型词条 › Google Cloud TPU(v7 Ironwood)

Google TPU(Tensor Processing Unit) 是 Google 自研的 AI 加速器线,云端专供形态。现役旗舰 v7 "Ironwood"(文档代号 TPU7x):2025 年 4 月 9 日发布——官方口径"首款为推理时代设计的 TPU": 单芯片 4614 TFLOPS FP8(2307 TFLOPS BF16)、192GB HBM3e · 带宽约 7.4TB/s;经 ICI 互联组成 9216 芯 Pod——42.5 Exaflops FP8、池化 HBM 1.77PB(较上代 Pod 算力 24 倍以上,官方口径)。 Gemini 系列模型的主力训练/推理底座之一。
| 维度 | TPU v5e(推理性价比档) | TPU v5p(训练大 Pod 档) | TPU v7 Ironwood(本词条·官方口径) |
|---|---|---|---|
| 发布 | 2023 | 2023 | 2025-04-09 |
| FP8 算力 | 官方页为准 | 官方页为准 | 4614 TFLOPS/芯(BF16 2307) |
| 内存 | 16GB | 95GB HBM | 192GB HBM3e · 7.4TB/s |
| Pod 规模 | 256 芯 | 8960 芯 | 9216 芯 · 42.5 EF FP8 · 1.77PB HBM |
| 定位 | 推理性价比 | 大模型训练 | 推理时代旗舰(训推双能) |
口径:Ironwood 列=Google Cloud 文档/官方博客(2026-11 核验);v5e/v5p 列=Google Cloud 各代官方页口径(数字以文档为准)。TPU 世代命名与 GPU 代际不可直比。
| 项目 | 规格(Google Cloud 官方口径) |
|---|---|
| 芯片 | TPU v7 Ironwood(文档代号 TPU7x) |
| 算力 | 4614 TFLOPS FP8(峰值·稠密)· 2307 TFLOPS BF16 |
| 内存 | 192GB HBM3e · 带宽约 7.4TB/s |
| Pod | 9216 芯 · 42.5 Exaflops FP8 · 1.77PB 直接可访问 HBM(官方口径) |
| 互联 | ICI 芯间互联 · 4× OSFP 光口 + 1× CDFP PCIe(接宿主 CPU) |
| 供给形态 | Google Cloud 专属(按需/预留/超节点租用·无零售卡形态) |
| 软件栈 | JAX / PyTorch(XLA) / TensorFlow · Vertex AI 托管(官方口径) |
| 场景 | 适配口径 |
|---|---|
| 大模型推理 | "推理时代"定位(官方口径)——192GB/7.4TB/s 单芯承载大模型服务+Pod 级横向扩展 |
| 大模型训练 | 9216 芯 Pod=42.5 EF FP8(官方)——万亿参数级训练的可选底座之一 |
| 栈锁定提醒 | XLA/JAX 生态为主——PyTorch 走 XLA 后端;CUDA 资产迁移成本高(生态对照见 CUDA) |