NVIDIA T4

概述

NVIDIA T4 是一款基于 Turing（图灵）架构的 PCIe 加速卡，采用 TU104 GPU，配备 320 个 Tensor Core 与 40 个 RT Core。显存为 16 GB GDDR6，位宽 256 bits，通过 x16 PCIe Gen3 接口与主机相连。其典型精度性能为单精度 8.1 TFLOPS、混合精度 65 TFLOPS、INT8 130 TOPS、INT4 260 TOPS。T4 采用单槽半高半长的被动散热设计，整机板卡功耗上限 70 W，无需外接供电，可适配高密度服务器。它同时支持深度学习推理与视频解码加速，是云端推理实例和边缘服务器中部署极为广泛的通用推理卡。

核心规格

适用场景

• 深度学习模型推理部署：借助 Tensor Core 与 INT8/INT4 量化能力，配合 TensorRT、ONNX 等工具链，适合在线推理服务的规模化部署
• 视频转码与流媒体处理：单卡可并行解码数十路 1080p30 的 H.264、HEVC 或 VP9 流，适合视频网关、转码集群与监控分析场景
• 高密度虚拟化与云桌面：支持 SR-IOV（最多 16 个 VF）与 ECC 显存，适合多租户 GPU 分池与虚拟桌面基础设施
• 轻量渲染与图形加速：内置 RT Core 提供硬件光线追踪能力，可用于中小规模渲染、可视化与混合工作负载

同族型号

视频讲解 VIDEO

采购与验货要点

• T4 为被动散热设计，依赖机箱强制风道散热，采购前需确认目标服务器具备适配 GPU 的气流方案，并核实机箱是否支持单槽半高（low-profile）卡位；同时注意其通过 PCIe 插槽取电、无外接供电接口，无需额外电源线，但要确认插槽供电能力满足整卡功耗上限要求
• 核验接口与兼容性：T4 使用 PCIe Gen3 x16 接口（官方亦支持 x8 安装），对老旧主机和新型服务器均有良好兼容性，采购时应确认 PCIe 拓扑、机箱高度（半高半长、板卡长约 6.6 英寸）以及驱动与虚拟化（SR-IOV、ECC 配置）需求
• 二手与库存采购时建议逐卡验机：确认 ECC 显存可正常开启并通过压力测试，核查 Tensor Core 完整性与视频解码能力（可用对应解码基准工具验证 H.264/HEVC/VP9 多路并发），并索要原厂 SN 以核对保修与来源；该型号市场存量极大，注意区分不同批次与拆机卡成色

常见问题