NVIDIA H100 NVL 94 GB vs NVIDIA Jetson Orin NX 16 GB

GPU 사양 비교

그래픽 카드

출시일
Mar 2023
Feb 2023
세대
Server Hopper
Tegra
유형
AI GPU
Professional
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x4

클럭 속도

기본 클럭
1080 MHz
-
부스트 클럭
1785 MHz
-
메모리 클럭
1313 MHz
800 MHz

메모리

메모리 크기
94GB
16GB
메모리 타입
HBM3
LPDDR5
메모리 버스
6016bit
128bit
대역폭
3.95TB/s
102.4GB/s

렌더링 설정

스트림 프로세서 개수
132
8
새딩 유닛
16896
1024
텍스처 매핑 유닛
528
32
렌더 출력 파이프라인
24
16
텐서 코어
528
32
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
4 MB

이론적 성능

픽셀 속도
42.84 GPixel/s
14.69 GPixel/s
텍스처 속도
942.5 GTexel/s
29.38 GTexel/s
FP16 (반 정밀도)
241.3 TFLOPS
3.760 TFLOPS
FP32 (단 정밀도)
60.32 TFLOPS
1.880 TFLOPS
FP64 (배 정밀도)
30.16 TFLOPS
940.0 GFLOPS

그래픽 프로세서

GPU 이름
GH100
GA10B
아키텍처
Hopper
Ampere
파운드리
TSMC
Samsung
제조 공정 크기
5 nm
8 nm
트랜지스터
80 billion
Unknown
다이 크기
814 mm²
200 mm²
GPU 변형
-
TE980M-A1

보드 디자인

TDP
400W
25W
권장 전원 공급 장치
800 W
-
출력 포트
No outputs
Portable Device Dependent
전원 연결자
8-pin EPS
-

그래픽 기능

DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.4
CUDA
9.0
8.7
쉐이더 모델
N/A
6.8