卡型对比

1. 卡型参数

表中 Tensor Core 算力仅列未启用结构化稀疏时的理论峰值。— 表示不支持，未公开 表示 NVIDIA 公开资料未披露。带 † 的数据来自运行时信息、第三方资料或基于公开参数的推导，详见表后说明。

类型	参数	RTX 5090	RTX PRO 5000	B300 SXM	H100 SXM	H20	RTX 4090	A100 SXM	A800 Active
基础	架构代号	Blackwell（GB202）	Blackwell	Blackwell Ultra	Hopper（GH100）	Hopper（GH100）	Ada Lovelace（AD102）	Ampere（GA100）	Ampere（GA100）
	CUDA Compute Capability	12.0	12.0	10.3	9.0	9.0	8.9	8.0	8.0†
	SM 数量	170	110†	160†	132	78†	128	108	108†
	CUDA Cores	21,760	14,080	20,480†	16,896	9,984†	16,384	6,912	6,912
	Tensor Cores	680，第 5 代	440†，第 5 代	640†，第 5 代	528，第 4 代	312†，第 4 代	512，第 4 代	432，第 3 代	432，第 3 代
	FP32 Cores / SM	128	128	128†	128	128†	128	64	64†
	Boost Clock	2,407 MHz	未公开	未公开	1,980 MHz	最高 1,980 MHz†	2,520 MHz	1,410 MHz	约 1,410 MHz†
存储	显存	32 GB GDDR7	48 / 72 GB GDDR7（ECC）	270 GB HBM3E	80 GB HBM3	96 GB HBM3	24 GB GDDR6X	80 GB HBM2e	40 GB HBM2
	显存带宽	1,792 GB/s	1,344 GB/s	7.7 TB/s	3.35 TB/s	4.0 TB/s†	1,008 GB/s	2,039 GB/s	1,555.2 GB/s
	L2 Cache	96 MB	未公开	未公开	50 MB	60 MB†	72 MB	40 MB	40 MB
	Unified L1 / Shared Memory	128 KiB/SM	128 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM	128 KiB/SM	192 KiB/SM	192 KiB/SM
	Max Shared Memory / SM	100 KiB	100 KiB	228 KiB	228 KiB	228 KiB	100 KiB	164 KiB	164 KiB
互联	NVLink	—	—	第 5 代，1.8 TB/s	第 4 代，900 GB/s	第 4 代，900 GB/s†	—	第 3 代，600 GB/s	第 3 代，400 GB/s
	PCIe	Gen 5 x16，128 GB/s	Gen 5 x16，128 GB/s				Gen 4 x16，64 GB/s
执行	Threads / Warp	32	32	32	32	32	32	32	32
	Max Warps / SM	48	48	64	64	64	48	64	64
	Max Blocks / SM	24	24	32	32	32	24	32	32
寄存器	Max 32-bit Registers / SM	65,536	65,536	65,536	65,536	65,536	65,536	65,536	65,536
	Max Registers / Block	65,536	65,536	65,536	65,536	65,536	65,536	65,536	65,536
	Max Registers / Thread	255	255	255	255	255	255	255	255
	Register File	256 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM	256 KiB/SM
计算	FP64 CUDA Core	约 1.64 TFLOPS†	约 1.02 TFLOPS†	1.2 TFLOPS	34 TFLOPS	1 TFLOPS†	约 1.29 TFLOPS†	9.7 TFLOPS	9.7 TFLOPS
	FP64 Tensor Core	—	—	1.2 TFLOPS	67 TFLOPS	—	—	19.5 TFLOPS	未公开
	FP32 CUDA Core	104.8 TFLOPS	65 TFLOPS	75 TFLOPS	67 TFLOPS	44 TFLOPS†	82.6 TFLOPS	19.5 TFLOPS	19.5 TFLOPS
	TF32 Tensor Core	104.8 TFLOPS	约 64.5 TFLOPS†	1.1 PFLOPS	495 TFLOPS	74 TFLOPS†	82.6 TFLOPS	156 TFLOPS	未公开
	BF16、FP16 Tensor Core	209.5 TFLOPS	约 129 TFLOPS†	2.25 PFLOPS	989 TFLOPS	148 TFLOPS†	165.2 TFLOPS	312 TFLOPS	未公开
	FP8 Tensor Core	419 TFLOPS	约 258 TFLOPS†	4.5 PFLOPS	1,979 TFLOPS	296 TFLOPS†	330.3 TFLOPS	—	—
	FP4 Tensor Core	1,676 TFLOPS	1,032 TFLOPS†	14 PFLOPS	—	—	—	—	—
	INT8 Tensor Core	838 TOPS	约 516 TOPS†	153.5 TOPS	1,979 TOPS	296 TOPS†	660.6 TOPS	624 TOPS	624 TOPS
	INT4 Tensor Core	未公开	未公开	未公开	未公开	未公开	未公开	1,248 TOPS	未公开

1.1 数据口径

• B300 的 270 GB、7.7 TB/s 来自 Blackwell Ultra 数据表；DGX B300 系统文档使用 288 GB、最高 8 TB/s 的口径。NVIDIA 未在公开产品数据表中列出 B300 的 SM、CUDA Core 与 Tensor Core 数量，表中带 † 的核心数量采用公开设备信息并按每 SM 核心数推导。
• RTX PRO 5000 表示桌面版 RTX PRO 5000 Blackwell，覆盖 48 GB 和 72 GB 两种显存配置，不包括同名 Laptop 与 Embedded 型号。官方数据表给出的 2,064 AI TOPS 启用了 FP4 结构化稀疏，表中按稠密口径折算为 1,032 TFLOPS；SM、Tensor Core 与其余低精度峰值带 † 的项目由 CUDA Core 数量和 RTX Blackwell 架构吞吐比例推导。
• RTX 5090 和 RTX 4090 的 Tensor Core 算力采用 NVIDIA 架构白皮书中的稠密峰值。TF32、BF16、FP16、FP8 和 FP4 均取 FP32 累加结果。FP64 峰值未在产品规格中单独披露，表中带 † 的数值按 FP32 峰值和 CUDA 指令吞吐比例估算。
• H20 没有可公开获取的完整 NVIDIA 产品数据表。其 96 GB 显存、Compute Capability 9.0 和 MIG 支持可由 NVIDIA 文档确认；SM 数量、频率、显存带宽、L2 Cache、产品级算力和功耗等带 † 的项目由公开设备信息及产品资料交叉核对。H20 的 74、148 和 296 峰值资料未说明结构化稀疏口径，因此按公开单值列出。
• A800 官方数据表给出的 1,247 INT8 AI TOPS 启用了结构化稀疏。表中按官方“稀疏使吞吐翻倍”的说明折算为约 623.5 TOPS；SM 数量、Compute Capability 与频率由 GA100 规格推导或由运行时信息核对。
• PCIe 带宽采用 x16 链路的理论双向总带宽；PCIe Gen 5 和 Gen 4 的单向理论带宽分别约为 64 GB/s 和 32 GB/s。

2. CUDA、驱动与 GPU 架构编号

基本概念：

• Compute Capability：GPU 固定的硬件能力编号，例如 A100 为 8.0、H100 为 9.0、B200 为 10.0。它决定 GPU 支持哪些硬件特性和指令，不能通过升级驱动或 CUDA Toolkit 改变。
• sm_xx 编译目标：NVCC 的真实 GPU 编译目标，由 Compute Capability 去掉小数点得到。这里的 sm_90 是架构编号，不表示 GPU 有 90 个物理 SM。为 H100 生成原生代码可以使用 nvcc -arch=sm_90 kernel.cu；sm_90a、sm_100f 等带后缀目标用于架构专属或家族专属特性，普通编译先按不带后缀的基线目标理解即
• CUDA Toolkit 版本：开发工具包版本，例如 CUDA 12.8、CUDA 13.0。它包含 NVCC、头文件和 CUDA Runtime 等开发组件，并决定编译器是否认识某一代 GPU 的 sm_xx 目标。使用 nvcc --version 查询本机实际使用的 Toolkit 版本。
• NVIDIA 驱动版本：GPU 驱动版本，例如 570.124、580.65。每个 CUDA Toolkit 都要求最低驱动版本，较新的驱动通常可以运行由较旧 Toolkit 构建的程序。使用 nvidia-smi 查询，其中 Driver Version 是当前驱动版本，CUDA Version 是驱动支持的最高 CUDA 兼容版本。

Compute Capability 与 sm_xx 的编号关系如下：

Compute Capability 8.0  → sm_80
Compute Capability 9.0  → sm_90
Compute Capability 10.3 → sm_103

GPU 架构	代表产品	Compute Capability	基线编译目标
Turing	T4	7.5	sm_75
Ampere	A100、A30	8.0	sm_80
Ampere	A40、A10、GeForce RTX 30 系列	8.6	sm_86
Ampere	Jetson Orin 系列	8.7	sm_87
Ada Lovelace	L4、L40S、GeForce RTX 4090	8.9	sm_89
Hopper	GH200、H200、H100	9.0	sm_90
Blackwell	GB200、B200	10.0	sm_100
Blackwell Ultra	GB300、B300	10.3	sm_103
Blackwell	Jetson T5000、T4000	11.0	sm_110
RTX Blackwell	RTX PRO Blackwell、GeForce RTX 50 系列	12.0	sm_120
Grace Blackwell	GB10（DGX Spark）	12.1	sm_121

四者的关系可以简化为：

GPU 型号 → 固定的 Compute Capability → 对应的 sm_xx 编译目标
CUDA Toolkit → 决定 NVCC 能否生成该目标
NVIDIA 驱动 → 决定生成的 CUDA 程序能否在系统中运行

3. 参考

1. NVIDIA Blackwell Ultra GPU Architecture 数据表
2. NVIDIA DGX B300 用户指南
3. NVIDIA CUDA GPU Compute Capability 列表
4. CUDA Programming Guide：Compute Capabilities
5. NVIDIA CUDA Compiler Driver：GPU Feature List
6. NVIDIA H100 Tensor Core GPU 产品规格
7. NVIDIA Hopper Architecture In-Depth
8. NVIDIA MIG Supported GPUs：H20 96 GB
9. NVIDIA：TensorRT-LLM FP8 / INT8 低精度推理优化
10. H20 公开设备与产品参数汇总（第三方，用于补充 NVIDIA 未披露字段）
11. NVIDIA A100 Tensor Core GPU 产品规格
12. NVIDIA A100 80 GB 数据表
13. NVIDIA Ampere Architecture In-Depth
14. NVIDIA A800 40 GB Active 产品规格
15. NVIDIA A800 40 GB Active 数据表
16. NVIDIA B300 公开设备信息汇总（第三方）
17. NVIDIA RTX Blackwell GPU Architecture
18. NVIDIA GeForce RTX 5090 产品规格
19. NVIDIA GeForce RTX 4090 产品规格
20. NVIDIA Ada GPU Architecture
21. NVIDIA CUDA Compatibility：Minor Version Compatibility
22. NVIDIA System Management Interface：CUDA UMD Version
23. NVIDIA RTX PRO 5000 Blackwell 产品规格
24. NVIDIA RTX PRO 5000 Blackwell 数据表