NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 4060 Ti 8 GB
GPU · 规格对比
基本信息
发布日期
Mar 2023
May 2023
产品系列
Tesla Hopper
GeForce 40
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 4.0 x8
时钟速度
基础频率
1665 MHz
2310 MHz
最大睿频
1837 MHz
2535 MHz
显存频率
1313 MHz
2250 MHz
显存
显存容量
96GB
8GB
显存类型
HBM3
GDDR6
显存位宽
5120bit
128bit
显存带宽
1681GB/s
288.0GB/s
渲染规格
GPU大核数量
132
34
流处理器数量
16896
4352
纹理单元
528
136
光栅单元
24
48
张量核心
528
136
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
50 MB
32 MB
光追核心
—
34
理论性能
像素填充率
44.09 GPixel/s
121.7 GPixel/s
纹理填充率
969.9 GTexel/s
344.8 GTexel/s
FP16性能
248.3 TFLOPS
22.06 TFLOPS
FP32性能
62.08 TFLOPS
22.06 TFLOPS
FP64性能
31.04 TFLOPS
344.8 GFLOPS
图形处理器
GPU型号
GH100
AD106
架构
Hopper
Ada Lovelace
芯片厂
TSMC
TSMC
芯片工艺
4 nm
5 nm
晶体管数量
80 billion
22.9 billion
芯片面积
814 mm²
190 mm²
GPU规格
—
AD106-350-A1
板卡设计
功耗
700W
160W
建议电源功率
1100 W
450 W
输出接口
No outputs
1x HDMI 2.13x DisplayPort 1.4a
电源接口
8-pin EPS
1x 16-pin
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.9
Shader Model
N/A
6.7
基准测试
3DMark Time Spy
—
13,494
3DMark Time Spy Extreme
—
6,181
Shadow of the Tomb Raider 2160p
—
58
Shadow of the Tomb Raider 1440p
—
118
Shadow of the Tomb Raider 1080p
—
202
▲ 规格对比
数据来源于官方规格和基准测试。