NVIDIA H100 SXM5 64 GB vs NVIDIA A16 PCIe

GPU · 规格对比

产品
GPU NVIDIA H100 SXM5 64 GB NVIDIA · 2023-03
GPU NVIDIA A16 PCIe NVIDIA · 2021-04
基本信息
发布日期
Mar 2023
Apr 2021
产品系列
Tesla Hopper
Tesla
类型
AI GPU
Desktop
总线接口
PCIe 5.0 x16
PCIe 4.0 x8
时钟速度
基础频率
1665 MHz
885 MHz
最大睿频
1980 MHz
1695 MHz
显存频率
1313 MHz
1812 MHz
显存
显存容量
64GB
16GB
显存类型
HBM3
GDDR6
显存位宽
3072bit
128bit
显存带宽
2.02TB/s
231.9GB/s
渲染规格
GPU大核数量
132
10
流处理器数量
16896
1280
纹理单元
528
40
光栅单元
24
32
张量核心
528
40
一级缓存
256 KB (per SM)
128 KB (per SM)
二级缓存
30 MB
2 MB
光追核心
—
10
理论性能
像素填充率
47.52 GPixel/s
54.24 GPixel/s
纹理填充率
1045 GTexel/s
67.80 GTexel/s
FP16性能
267.6 TFLOPS
4.339 TFLOPS
FP32性能
66.91 TFLOPS
4.339 TFLOPS
FP64性能
33.45 TFLOPS
135.6 GFLOPS
图形处理器
GPU型号
GH100
GA107
架构
Hopper
Ampere
芯片厂
TSMC
Samsung
芯片工艺
5 nm
8 nm
晶体管数量
80 billion
Unknown
芯片面积
814 mm²
Unknown
板卡设计
功耗
700W
250W
建议电源功率
1100 W
600 W
输出接口
No outputs
No outputs
电源接口
8-pin EPS
8-pin EPS
图形特性
DirectX
N/A
12 Ultimate (12_2)
OpenGL
N/A
4.6
OpenCL
3.0
3.0
Vulkan
N/A
1.3
CUDA
9.0
8.6
Shader Model
N/A
6.6
基准测试
Blender
—
510
▲ 规格对比 数据来源于官方规格和基准测试。