NVIDIA H100 NVL 94 GB vs NVIDIA Jetson Orin NX 16 GB

GPU 规格对比

基本信息

发布日期
Mar 2023
Feb 2023
产品系列
Server Hopper
Tegra
类型
AI GPU
Professional
总线接口
PCIe 5.0 x16
PCIe 4.0 x4

时钟速度

基础频率
1080 MHz
-
最大睿频
1785 MHz
-
显存频率
1313 MHz
800 MHz

显存

显存容量
94GB
16GB
显存类型
HBM3
LPDDR5
显存位宽
6016bit
128bit
显存带宽
3.95TB/s
102.4GB/s

渲染规格

GPU大核数量
132
8
流处理器数量
16896
1024
纹理单元
528
32
光栅单元
24
16
张量核心
528
32
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
4 MB

理论性能

像素填充率
42.84 GPixel/s
14.69 GPixel/s
纹理填充率
942.5 GTexel/s
29.38 GTexel/s
FP16性能
241.3 TFLOPS
3.760 TFLOPS
FP32性能
60.32 TFLOPS
1.880 TFLOPS
FP64性能
30.16 TFLOPS
940.0 GFLOPS

图形处理器

GPU型号
GH100
GA10B
架构
Hopper
Ampere
芯片厂
TSMC
Samsung
芯片工艺
5 nm
8 nm
晶体管数量
80 billion
Unknown
芯片面积
814 mm²
200 mm²
GPU规格
-
TE980M-A1

板卡设计

功耗
400W
25W
建议电源功率
800 W
-
输出接口
No outputs
Portable Device Dependent
电源接口
8-pin EPS
-

图形特性

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.4
CUDA
9.0
8.7
Shader Model
N/A
6.8