NVIDIA H100 SXM5 96 GB vs NVIDIA L40G

GPU · 사양 비교

제품
GPU NVIDIA H100 SXM5 96 GB NVIDIA · 2023-03
GPU NVIDIA L40G NVIDIA · 2022-10
그래픽 카드
출시일
Mar 2023
Oct 2022
세대
Server Hopper
Tesla Ada
유형
AI GPU
Professional
버스 인터페이스
PCIe 5.0 x16
PCIe 4.0 x16
클럭 속도
기본 클럭
1350 MHz
1005 MHz
부스트 클럭
1980 MHz
2475 MHz
메모리 클럭
1313 MHz
2250 MHz
메모리
메모리 크기
96GB
24GB
메모리 타입
HBM3
GDDR6
메모리 버스
5120bit
384bit
대역폭
3.36TB/s
864.0GB/s
렌더링 설정
스트림 프로세서 개수
132
142
새딩 유닛
16896
18176
텍스처 매핑 유닛
528
568
렌더 출력 파이프라인
24
192
텐서 코어
528
568
L1 캐시
256 KB (per SM)
128 KB (per SM)
L2 캐시
50 MB
48 MB
레이 트레이싱 코어
—
142
이론적 성능
픽셀 속도
47.52 GPixel/s
475.2 GPixel/s
텍스처 속도
1045 GTexel/s
1406 GTexel/s
FP16 (반 정밀도)
267.6 TFLOPS
89.97 TFLOPS
FP32 (단 정밀도)
66.91 TFLOPS
89.97 TFLOPS
FP64 (배 정밀도)
33.45 TFLOPS
1406 GFLOPS
그래픽 프로세서
GPU 이름
GH100
AD102
아키텍처
Hopper
Ada Lovelace
파운드리
TSMC
TSMC
제조 공정 크기
5 nm
4 nm
트랜지스터
80 billion
76.3 billion
다이 크기
814 mm²
608 mm²
GPU 변형
—
AD102-???-A1
보드 디자인
TDP
700W
300W
권장 전원 공급 장치
1100 W
700 W
출력 포트
No outputs
1x HDMI 2.13x DisplayPort 1.4a
전원 연결자
8-pin EPS
1x 16-pin
그래픽 기능
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
쉐이더 모델
N/A
6.6
▲ 사양 비교 공식 사양 및 벤치마크 테스트 데이터 기반.