算力百科COMPUTEPEDIA
规格词条 · 中卡 STANDARD CARD

NVIDIA Tesla P40

24GB大显存边缘推理存量王:Pascal无Tensor Core时代的INT8推理旗舰,24GB单卡大显存+二手低价使其成为低预算INT8推理与小模型LLM部署的二手市场主力流通型号

概述

NVIDIA Tesla P40是基于Pascal架构(GP102核心,Compute Capability 6.1)的数据中心推理加速卡,配备3840个CUDA核心,峰值FP32算力可达12 TFLOPS,峰值INT8算力(DP4A指令)可达47 TOPS。它拥有24 GB GDDR5显存,384-bit位宽,板载ECC出厂默认启用。Pascal一代不具备Tensor Core,其INT8加速能力依赖DP4A指令集。该卡为全高全长双槽被动散热形态,无显示输出,通过PCIe Gen3 x16与主机连接,不支持NVLink。典型用途包括INT8量化推理、图像识别与小规模语言模型部署,是二手低预算推理市场的主力型号之一。

核心规格

架构Pascal (GP102), Compute Capability 6.1
显存24GB GDDR5(板载ECC,出厂默认启用,可经nvidia-smi关闭;非HBM2无NVLink配套)
显存带宽346 GB/s(384-bit × 7.2Gbps等效;官方口径'up to 346GB/s')
显存位宽384bit
算力FP32 12 TFLOPS / INT8(DP4A) 47 TOPS(Pascal一代无Tensor Core)
CUDA核心3840(30 SM × 128,deviceQuery实测)
功耗250W(nvidia-smi默认=最大电源限制250.00W,min 125W;CPU 8-pin/EPS供电)
互联PCIe Gen3 x16(实测Link Width 16x),无NVLink(GP102无NVLink,官方页与实机均无)
发布年2016(2016-09 GTC Europe发布·官方新闻稿落款2016-09-12;2016-10上市)
形态全高全长双槽被动散热(NVIDIA Form Factor 3.0,4.376英寸×10.5英寸 ≈ 111.15mm×266.7mm,无风扇无显示输出)
频率Boost 1531 MHz / 显存等效 7.2 Gbps(deviceQuery:3615 MHz)
特色Pascal推理专用旗舰:INT8(DP4A)指令集47 TOPS推理吞吐,24GB单卡大显存为同期最大GDDR5配置
规格已与官方基准快照对账(基准来源,采集 2026-10-10)· 价格以货主实际报价为准

适用场景

同族型号

型号显存功耗
NVIDIA T4 对比16GB GDDR6 with ECC (默认开启)70W (Total board power, 默认)
NVIDIA A100 对比40GB HBM2 / 80GB HBM2e 双版本(80GB 版 2020-11-16 SC20 增发),带 ECCSXM4 400W(40GB/80GB 同);PCIe 版 40GB 250W / 80GB 300W
NVIDIA GB300 对比288GB HBM3e(单GPU封装;超级芯片576GB;HGX板级2.1TB/机柜20TB并存)TGP 最高 1400W(单GPU,官方博客直证)
NVIDIA A30 对比24 GB HBM2165 W
NVIDIA GeForce RTX 4090 对比24GB GDDR6X450W TGP (平均游戏315W, 建议系统电源850W)
NVIDIA RTX PRO 6000 Blackwell 对比96GB GDDR7 with ECC (单卡最大显存的专业工作站 GPU)600W Total board power (官方), 供电 1x PCIe CEM5 16-pin, 双贯穿式散热(Double-flow-through)

视频讲解 VIDEO

采购与验货要点

常见问题

Tesla P40能不能用来跑大语言模型?
可以跑,但受架构限制。P40没有Tensor Core,FP16吞吐也不是强项,实际部署中通常走INT8量化路线,借助DP4A指令获得较好吞吐。24 GB单卡显存适合小参数量模型或量化后的模型;对更大模型或更高吞吐需求,需评估多卡PCIe扩展的带宽瓶颈或改用更新的架构。
P40为什么被动散热,能用普通塔式机箱吗?
P40是服务器专用卡,采用全高全长双槽被动散热,本身无风扇也无显示输出,依赖服务器机箱的定向风道散热。放进普通塔式或桌面机箱会导致散热不良甚至过热降频,如确需使用须自行加装涡轮散热罩并验证风道。
买二手P40应该怎么验货?
建议上机后用nvidia-smi和deviceQuery核对PCIe链路为Gen3 x16、显存容量与板载ECC状态,确认GPU Boost频率正常;再运行持续满载压力测试观察温度与稳定性,并检查ECC报错计数,排查显存故障与矿卡/高负载使用史。同时确认散热器硅脂与风扇环境是否需要翻新。
信源
采集 2026-10-10 · 侦察 C-侦察兵-P40-1010 · 升级厚词条走 编辑政策 流程
本库
编辑政策关于本库(利益声明)勘误通道
编辑宪法摘要
每条断言带出处缺点必写 · 勘误公开留痕不接受付费词条词条内零导流与销售元素行情数据仅作数据模块挂载
萬安家族
算力百科萬安算交所萬安资讯
行情数据来源:萬安算交所 · © 2026 算力百科 ComputePedia · 萬安出品