SECTIONS
EDITIONS
NETWORK
萬安百科 › 机型词条 › NVIDIA GeForce RTX 4090
示意配图（AI 生成·非官方产品图）· 萬安百科
NVIDIA GeForce RTX 4090
Ada 旗舰 · 16384 CUDA · 24GB GDDR6X 1008GB/s · 450W · 消费旗舰词条
概述OVERVIEW
GeForce RTX 4090 是 NVIDIA Ada Lovelace 世代的旗舰消费卡（2022-10 发布，官方页/Ada 白皮书口径，2026-11 核验）：16384 CUDA 核（AD102·82.6 TFLOPS FP32）、24GB GDDR6X · 384bit · 1008GB/s、96MB L2、450W、PCIe 4.0。在 AI 语境里它是 24GB 单卡推理的普及档——CUDA 生态全兼容+海量装机，个人与中小团队本地模型部署的起点卡（对照数据中心卡的 L40S/ RTX 5090）。
沿革HISTORY
- 2022-10：RTX 4090 发布（Ada 旗舰·官方口径时点）。
- 2023–2024：AI 推理装机潮——24GB 档成为个人/工作站本地模型的普及卡（生态口径）。
- 2025-01：RTX 5090（Blackwell 旗舰）接棒发布（词条）；4090 转入大存量流通（市场热度口径）。
- 现役：4090 与 5090 并行流通——AI 需求侧 24GB 档保有量最大的单卡（市场口径）。
两代旗舰对照GENERATIONS
| 维度 | RTX 4090（本词条·官方口径） | RTX 5090（官方页·词条） |
|---|---|---|
| 架构 | Ada Lovelace（AD102） | Blackwell |
| CUDA 核 | 16384 · 82.6 TFLOPS FP32 | 21760 |
| 显存 | 24GB GDDR6X · 384bit · 1008GB/s | 32GB GDDR7 · 1.79TB/s |
| L2 | 96MB | — |
| 功耗 | 450W | 575W |
| AI 档位 | 24GB 推理普及档 | 32GB 单卡上移档 |
口径：4090 列=NVIDIA 官方页/Ada 白皮书（2026-11 核验）；5090 列=官方页口径。消费卡与数据中心卡（Tensor 档/MIG/被动散热）形态语义不同，不直比。
技术规格SPECS
| 项目 | 规格（NVIDIA 官方口径） |
|---|---|
| 架构 | Ada Lovelace · AD102 |
| CUDA | 16384 核 · 82.6 TFLOPS FP32（官方口径） |
| RT/Tensor | 第三代 RT Core（191 TFLOPS）· 512 个第四代 Tensor Core |
| 显存 | 24GB GDDR6X · 384bit · 1008GB/s · 96MB L2 |
| 功耗 | TGP 450W · PCIe 4.0 x16 · 12VHPWR 供电 |
| 形态 | 三槽级旗舰散热（各 AIC 版型各异） |
| AI 栈 | CUDA 全生态 · TensorRT-LLM 单卡推理（生态口径） |
模型适配MODEL FIT
| 场景 | 24GB 显存的适配口径（推算：权重×精度+开销） |
|---|---|
| 7B–14B 级 | FP16/INT8/4-bit 舒适——本地推理与微调入门主力（推算口径） |
| 30B 级 4-bit | 贴边缘可容（推算口径）——长上下文按 24GB 余量核算 |
| 70B 级 | 超单卡上限——双卡 NVLink 桥接或上移数据中心卡线 |
24GB 档的云端平替——去模型广场按需调用
萬安云 · 模型广场 →局限与边界LIMITS
- 消费卡形态：无 ECC/被动散热/MIG——7×24 机房场景按数据中心卡口径规划（形态语义对照）。
- 显存焊死 24GB：第三方改装变体非官方保障（媒体口径）——采购认准原厂规格。
- 供电/机箱：450W+12VHPWR——装机按供电与风道核算（官方安装口径）。
常见问题FAQ
RTX 4090 的 AI 定位是什么？
24GB 单卡推理的普及档：7B–14B 级量化舒适、30B 级 4-bit 贴边缘（推算口径）——CUDA 生态全兼容+装机量大，是个人/小团队跑本地模型的入门主力（对照 RTX 5090 32GB 上移档）。
4090 和 5090 差在哪？
两代旗舰：4090=Ada（16384 CUDA·24GB GDDR6X·1008GB/s·450W）；5090=Blackwell（21760 CUDA·32GB GDDR7·1.79TB/s·575W，官方口径对照）——AI 吞吐与显存都差一代，选型按模型档与预算定。
市面上有 48GB 版 4090 吗？
流通市场存在第三方改装 48GB 变体（媒体口径）——非 NVIDIA 官方产品，稳定与保修无官方保障；采购认准原厂规格与验货流程（本库口径：以官方规格为锚）。
相关词条SEE ALSO
NVIDIA RTX 5090（下一代旗舰）
NVIDIA L40S（数据中心 48GB）
RTX 6000 Ada（工作站 48GB）
DGX Spark（桌面 AI 超算）
CUDA（生态词条）
如何买卖验证过的 GPU