NVIDIA H100 PCIe 80 GB vs NVIDIA GeForce RTX 3070 TiM

GPU 规格对比

基本信息

发布日期
Oct 2022
Nov 2022
产品系列
Server Hopper
GeForce 30
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 4.0 x16

时钟速度

基础频率
1095 MHz
915 MHz
最大睿频
1755 MHz
1410 MHz
显存频率
1593 MHz
1750 MHz

显存

显存容量
80GB
8GB
显存类型
HBM2e
GDDR6
显存位宽
5120bit
256bit
显存带宽
2.04TB/s
448.0GB/s

渲染规格

GPU大核数量
114
46
流处理器数量
14592
5888
纹理单元
456
184
光栅单元
24
96
张量核心
456
184
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
4 MB
光追核心
-
46

理论性能

像素填充率
42.12 GPixel/s
135.4 GPixel/s
纹理填充率
800.3 GTexel/s
259.4 GTexel/s
FP16性能
204.9 TFLOPS
16.60 TFLOPS
FP32性能
51.22 TFLOPS
16.60 TFLOPS
FP64性能
25.61 TFLOPS
259.4 GFLOPS

图形处理器

GPU型号
GH100
GA104
架构
Hopper
Ampere
芯片厂
TSMC
Samsung
芯片工艺
5 nm
8 nm
晶体管数量
80 billion
17.4 billion
芯片面积
814 mm²
392 mm²

板卡设计

功耗
350W
220W
建议电源功率
750 W
550 W
输出接口
No outputs
1x HDMI 2.13x DisplayPort 1.4a
电源接口
1x 16-pin
1x 8-pin

图形特性

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.6
Shader Model
N/A
6.6