NVIDIA A40 PCIe vs NVIDIA H200 NVL
GPU 规格对比
基本信息
发布日期
Oct 2020
Nov 2024
产品系列
Tesla
Server Hopper
类型
Desktop
AI GPU
总线接口
PCIe 4.0 x16
PCIe 5.0 x16
时钟速度
基础频率
1305 MHz
1365 MHz
最大睿频
1740 MHz
1785 MHz
显存频率
1812 MHz
1593 MHz
显存
显存容量
48GB
141GB
显存类型
GDDR6
HBM3e
显存位宽
384bit
6144bit
显存带宽
695.8GB/s
4.89TB/s
渲染规格
GPU大核数量
84
132
流处理器数量
10752
16896
纹理单元
336
528
光栅单元
112
24
张量核心
336
528
光追核心
84
-
一级缓存
128 KB (per SM)
256 KB (per SM)
二级缓存
6 MB
50 MB
理论性能
像素填充率
194.9 GPixel/s
42.84 GPixel/s
纹理填充率
584.6 GTexel/s
942.5 GTexel/s
FP16性能
37.42 TFLOPS
241.3 TFLOPS
FP32性能
37.42 TFLOPS
60.32 TFLOPS
FP64性能
584.6 GFLOPS
30.16 TFLOPS
图形处理器
GPU型号
GA102
GH100
架构
Ampere
Hopper
芯片厂
Samsung
TSMC
芯片工艺
8 nm
5 nm
晶体管数量
28.3 billion
80 billion
芯片面积
628 mm²
814 mm²
板卡设计
功耗
300W
600W
建议电源功率
700 W
1000 W
输出接口
3x DisplayPort 1.4a
No outputs
电源接口
8-pin EPS
8-pin EPS
图形特性
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
N/A
OpenCL
3.0
3.0
Vulkan
1.3
N/A
CUDA
8.6
9.0
Shader Model
6.6
N/A