NVIDIA GeForce RTX 3090 Ti vs NVIDIA H100 PCIe 96 GB

GPU · 规格对比

产品
GPU NVIDIA GeForce RTX 3090 Ti NVIDIA · 2022-01
GPU NVIDIA H100 PCIe 96 GB NVIDIA · 2023-03
基本信息
发布日期
Jan 2022
Mar 2023
产品系列
GeForce 30
Tesla Hopper
类型
Desktop
AI GPU
总线接口
PCIe 4.0 x16
PCIe 5.0 x16
时钟速度
基础频率
1560 MHz
1665 MHz
最大睿频
1860 MHz
1837 MHz
显存频率
1313 MHz
1313 MHz
显存
显存容量
24GB
96GB
显存类型
GDDR6X
HBM3
显存位宽
384bit
5120bit
显存带宽
1.01TB/s
1681GB/s
渲染规格
GPU大核数量
84
132
流处理器数量
10752
16896
纹理单元
336
528
光栅单元
112
24
张量核心
336
528
光追核心
84
—
一级缓存
128 KB (per SM)
256 KB (per SM)
二级缓存
6 MB
50 MB
理论性能
像素填充率
208.3 GPixel/s
44.09 GPixel/s
纹理填充率
625.0 GTexel/s
969.9 GTexel/s
FP16性能
40.00 TFLOPS
248.3 TFLOPS
FP32性能
40.00 TFLOPS
62.08 TFLOPS
FP64性能
625.0 GFLOPS
31.04 TFLOPS
图形处理器
GPU型号
GA102
GH100
GPU规格
GA102-350-A1
—
架构
Ampere
Hopper
芯片厂
Samsung
TSMC
芯片工艺
8 nm
4 nm
晶体管数量
28.3 billion
80 billion
芯片面积
628 mm²
814 mm²
板卡设计
功耗
450W
700W
建议电源功率
850 W
1100 W
输出接口
1x HDMI 2.13x DisplayPort 1.4a
No outputs
电源接口
1x 16-pin
8-pin EPS
图形特性
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
N/A
OpenCL
3.0
3.0
Vulkan
1.4
N/A
CUDA
8.6
9.0
Shader Model
6.8
N/A
基准测试
3DMark Time Spy
21,832
—
3DMark Time Spy Extreme
11,318
—
3DMark Speed Way
5,903
—
Blender
6,217
—
▲ 规格对比 数据来源于官方规格和基准测试。