萬安百科 › 机型词条 › AMD Instinct MI355X

AMD Instinct MI355X 是 AMD 于 2025 年 6 月 12 日「Advancing AI」大会发布的数据中心 AI 旗舰加速卡:CDNA 4 架构、288GB HBM3E 大显存(美光/三星供货)、8TB/s 带宽(8192-bit 位宽)与 1400W 液冷功耗——官方定位为「面向大规模 AI 训练与推理的高密度算力旗舰」,与 NVIDIA B300 同台对位[1]。
它最大的牌是显存容量与低精度算力:单卡 288GB 与 B300 持平、比上代 MI325X(256GB)多 12.5%;支持 MXFP6/MXFP4 微缩格式(AMD 官方称 FP4/FP6 数据类型为推理代差卖点[3]);八卡平台合计 2.3TB HBM3E。第三方基准(SemiAnalysis InferenceMAX、AMD Signal65 口径)显示其在大模型推理的每百万 token 成本上具备对 B300 的竞争力,TCO 口径甚至占优[5]。
对华渠道必须先说清:MI355X 未获对华出口许可(2025 年 4 月管制收紧后 AMD 转向中国特供版 MI308 并于 2025 年末取得许可[7])——中国大陆正规渠道以 MI308/H20 及合规衍生形态为主,MI355X 仅见于海外市场。这是采购决策的第一道分水岭。
萬安指数(0–100):本库按公开规格加权估算——显存 40% + 互联 30% + 生态 30%,按场景调权。90+ 旗舰级 · 75+ 优秀 · 60+ 可用 · 60 以下不适用。方法透明可复核,不构成性能承诺。
2024 年 10 月,AMD 在 Advancing AI 大会预告 MI350 系列路线图(CDNA 4 架构、288GB HBM3E、2025 下半年上市计划),彼时 MI325X 刚上市。
2025 年 4 月,美国对华出口管制收紧:MI355X 所在的 MI350 系列未获对华许可,AMD 公开口径计提约 15 亿美元存货减值并转向中国特供版 MI308[7]。
2025 年 6 月 12 日,AMD「Advancing AI」大会正式发布 MI350 系列(MI350X/MI355X):官方称推理性能较 MI300X 最高 40 倍提升(MXFP4 口径[2]);媒体报道 MI355X 定价上调约 70% 至 约 2.5 万美元/卡(公开报道口径[6])。
2025 年 8 月,AMD 与 NVIDIA 先后与美国政府达成对华芯片销售15% 收入上缴安排以换取许可延续(公开报道口径[8]);MI308 于 2025 年末取得对华许可。
2026 年,MI355X 在海外云厂商与 AI 基础设施客户中放量,第三方口径以推理成本与 B300 正面对垒[5];对华渠道维持 MI308/合规衍生形态。
| 项目 | 规格(MI355X · AMD 官方口径,2026-10 核验[1]) |
|---|---|
| GPU 架构 | AMD CDNA 4(第4代数据中心架构,官方白皮书[3]) |
| 计算单元 | 256 Compute Units · 16,384 流处理器(第三方规格库口径[10]) |
| 单卡显存 | 288GB HBM3E(美光/三星,8 堆栈) |
| 显存带宽 | 8TB/s(8192-bit,官方口径[1]) |
| 低精度格式 | MXFP6 / MXFP4(CDNA 4 代差支持,官方口径[3]) |
| 卡间互联 | 第4代 Infinity Fabric · 超过 1TB/s(官方口径「over 1 TB/s」[1]) |
| 主机接口 | PCIe Gen 5 |
| 功耗 | 1400W(液冷 OAM 形态默认;官方口径[1]) |
| 形态 | OAM(Open Accelerator Module)· 液冷冷板 |
| 八卡平台 | 2.3TB HBM3E 合计显存(官方口径[1]) |
| 上代 / 对位产品 | MI325X(256GB,+12.5% 代差)/ NVIDIA B300(288GB 同容量对位) |
规格以 AMD 官方产品页为准(2026-10 核验[1]);CU/流处理器数为第三方规格库口径[10];FP4/FP6 算力官方页以「代差支持」表述、未列明单精度 TOPS 明细,采购前建议以 rocm-smi 实测核验。
| 项目 | AMD MI355X | NVIDIA B300 |
|---|---|---|
| 单卡显存 | 288GB HBM3E | 288GB HBM3e |
| 单卡带宽 | 8TB/s | 约 8TB/s |
| 卡间互联 | Infinity Fabric · 超1TB/s | NVLink 5 · 1.8TB/s |
| 功耗/散热 | 1400W · 液冷 OAM | 约1400W 级 · NVL8 风冷/液冷 |
| 软件生态 | ROCm 7(开源路线) | CUDA(事实标准) |
| 对华渠道 | 无许可(MI308 特供替代) | H20/合规衍生流通 |
| 选型一句话 | 推理 TCO 口径黑马 · 海外市场 | 生态默认项 · 旗舰新购 |
对照为公开规格与第三方基准口径[5];生态差异对实际业务的影响建议以自有模型在 ROCm/CUDA 双栈试跑为准。
MI350 系列按散热形态与目标市场分三支:
MI355X 默认 1400W 液冷冷板(OAM)形态:单卡功耗即达 1400W,八卡平台整机功耗奔 12kW+ 级别——液冷回路(CDU/冷板/管路)是部署的硬前置,风冷机房无法直接承载。无液冷条件的选 MI350X 风冷版(性能相应折让)。供电按 OAM 平台规格由整机厂商统一交付,单卡不单独走线。
机架层面:八卡 OAM 平台(UBB)+ 液冷分配单元成套交付,机房需预留 CDU 安装位与一次侧/二次侧管路;液冷改造的前置工程量与成本,务必在采购决策中与卡价一并核算(见「采购与验货」)。
| 场景 | 单卡 288GB 的适配口径(推算:权重×精度+KV/框架开销,方法详见选型器) |
|---|---|
| DeepSeek 类 MoE 推理 | 数百 B 级稀疏模型全量常驻:288GB 大显存 + 大带宽是 MoE 的天然主场(第三方口径[5]) |
| 满血 DeepSeek FP8 推理 | FP8 权重 ≈ 数百 GB 级:单卡装载后余量给长上下文与并发 |
| MXFP4 量化推理 | 模型容量双倍装载或吞吐翻倍(CDNA 4 代差格式,官方口径[3]) |
| 大模型微调 | LoRA/QLoRA 大参数级可跑;全参训练为八卡平台场景 |
| FP64 HPC | 官方页列明 FP64 口径(详见规格表[1]),HPC 应用以 ROCm 认证清单为准 |
口径:显存占用 ≈ 参数量 × 每参数字节数(FP16=2B / FP8=1B / FP4=0.5B),KV 与框架开销另计;与选型器「显存算账」同源可复核。

MI355X 为 OAM 液冷模组形态,官方公开渲染图有限——整机/集群形态参见 AMD CDNA 4 白皮书[3]与 OEM 合作方材料。
本词条视频讲解排产中(中文/多语言版本制作流程见视频窗排产单)——上线后本区块自动更新。
软件栈走 ROCm 7(AMD 开源路线):PyTorch/TensorFlow/JAX 官方支持、vLLM/SGLang 推理框架原生适配(第三方基准口径[5])、Triton 内核可移植。与 CUDA 的生态差距是诚实的最大折让项:长尾框架/算子/商业软件的 ROCm 覆盖仍在补课,采购前务必以自有模型栈在 ROCm 上试跑验证——这一条比卡价更影响交付。
集群管理走 AMD 套件(ROCm/SSO/AMDMonitor),K8s 生态有 AMD Device Plugin;大客户(海外云厂商)已有规模部署案例。企业级支持合同与 ROCm 版本升级节奏,采购合同里建议明确写入。
OAM 平台高值采购建议引入第三方验货与到货实测,核验报告与序列号一致。
AMD 判例工具:驱动自带 rocm-smi(拓扑/功耗/温度)、AMD 官方 rocminfo、开源烤机 gpu-burn(ROCm 版)、带宽实测 rocm-bandwidth-test、互联压测 rccl-tests(ROCm 版 nccl-tests)。通用口径:液冷进液温度达标下烤机不降频、HBM 带宽实测接近 8TB/s 官方标称、ECC 全程无报错。
与 NVIDIA 机的横向基准参考 SemiAnalysis InferenceMAX 公开口径[5];本卡专属判例片排产中。
| 环节 | 要点 |
|---|---|
| 形态与重量 | OAM 液冷模组 · 以八卡 UBB 平板成套交付为主;模组重量以平台厂商实测为准 |
| 包装 | 原厂防静电袋+冷板接口保护帽;液冷快接头在运输中忌污染与磕碰 |
| 跨境合规 | 美国原产 AI 加速卡属出口管制敏感标的——MI355X 对华无许可,跨境流转须全程合规文件 |
| 保险 | 按货值全额投保(单卡公开报道口径约 2.5 万美元级[6]);液冷接口泄露险建议附加 |
| 变体 / OEM | 形态与定位 |
|---|---|
| MI355X | 1400W 液冷 OAM · 系列旗舰(AMD 官方设计,OEM 平台集成) |
| MI350X | 1000W 级风冷 OAM · 无液冷机房选择(官方口径[1]) |
| MI308 | 中国特供 · MI300 线合规降配 · 已获对华许可(公开报道口径[7]) |
| OAM 平台整机 | 超微 / 戴尔 / 慧与 / 联想等八卡 UBB 平台(公开报道口径[6]) |
| 日期 | 类型 | 市场 | 价格带 | 口径 |
|---|---|---|---|---|
| 2026-10 | 渠道参考 | 海外 | 公开报道口径约 $25,000/卡(定价上调约70%的媒体报道口径[6],实际以渠道报价为准) | AMD 无官方常驻标价 |
| 2026-10 | 云租金参考 | 海外云 | MI300X 约 $2.39/GPU·时(第三方口径[5]) | MI355X 云上线后价格待观察 |
| 2026-10 | 大厅状态 | 中国大陆 | 无正规渠道 · 不适用 | 未获对华许可,大厅检索 › |
口径:本库无该型号成交数据;「公开报道口径」为媒体转述要价,非官方标价、非成交价,不构成任何交易依据。行情与货盘:萬安算交所(0 佣金撮合、不参与交易)。
| 时间 | 事件 |
|---|---|
| 2024-10 | Advancing AI 大会预告 MI350 路线图(CDNA 4 · 288GB · 2025 下半年) |
| 2025-04 | 对华管制收紧:MI350 系列未获许可,AMD 计提约 15 亿美元转向 MI308[7] |
| 2025-06-12 | Advancing AI 大会发布 MI350 系列(MI350X/MI355X);媒体报道定价上调约 70% 至约 2.5 万美元[2][6] |
| 2025-08 | AMD/NVIDIA 与美国政府达成对华销售 15% 收入上缴安排(公开报道口径[8]) |
| 2025 年末 | MI308 取得对华许可并启动供货;MI355X 海外市场放量[7] |
| 2026-01-15 | BIS 将 H200/MI325X 对华出口审查转为逐案制(公开报道口径[7]) |
| [1] | AMD 官方 · Instinct MI355X 产品页(规格:288GB HBM3E / 8TB/s / 1400W / 2.3TB 八卡 / 超1TB/s 互联) · https://www.amd.com/en/products/accelerators/instinct/mi350/(2026-10 核验) |
| [2] | AMD Advancing AI 大会 · MI350 系列发布(2025-06-12,推理性能口径) · https://www.amd.com/en/events/advancing-ai(2026-10 核验) |
| [3] | AMD CDNA 4 架构白皮书(MXFP6/MXFP4 与架构细节) · https://www.amd.com/content/dam/amd/en/documents/instinct-te(2026-10 核验) |
| [4] | AMD 官方 · ROCm 7 文档与生态 · https://rocm.docs.amd.com/(2026-10 核验) |
| [5] | SemiAnalysis · InferenceMAX 基准与 TCO 口径(MI355X vs B300) · https://inferencex.semianalysis.com/chips/mi355x(第三方口径) |
| [6] | 媒体报道 · MI350 定价上调约 70% 至约 2.5 万美元/卡(2025,公开报道口径) · https://www.tomshardware.com/pc-components/gpus(公开报道口径) |
| [7] | 公开报道 · 对华出口管制与 MI308 许可(2025-04 管制收紧 / 2025 年末获许可 / 2026-01 BIS 逐案制) · https://www.reuters.com/technology/(公开报道口径) |
| [8] | 公开报道 · AMD/NVIDIA 对华销售 15% 收入上缴安排(2025-08) · https://www.reuters.com/technology/(公开报道口径) |
| [9] | 选型器 · 显存算账口径(参数量 × 精度 + KV/框架开销) · /wiki/xuanxing.html(本站口径) |
| [10] | 第三方规格库 · CU/流处理器口径(256 CU / 16,384 SP) · https://www.techpowerup.com/gpu-specs/instinct-mi355x.c4309(第三方口径) |
规格以 AMD 官方页为锚;「公开报道口径」类条目为媒体/渠道转述,本库不背书其真实性,采购决策请以官方文件与实测为准。