H200 SXM vs NVIDIA A100 PCIe

VS

H200 SXM

NVIDIA A100 PCIe

AI加速卡AI加速卡我们比较了两个定位的GPU：141GB显存的 H200 SXM 与 40GB显存的 A100 PCIe 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

H200 SXM 的优势

发布时间晚3年5个月

最大睿频提高40% (1980MHz 与 1410MHz)

更大的显存 (141GB 与 40GB)

更大的显存带宽 (4800GB/s 与 1555GB/s)

多出9984个渲染核心

NVIDIA A100 PCIe 的优势

更低的TDP功耗 (250W 与 700W)

评分

基准测试

FP32浮点性能

H200 SXM +243%

67 TFLOPS

A100 PCIe

19.49 TFLOPS

H200 SXM

VS

A100 PCIe

基本信息

2023年11月

发布日期

2020年6月

Hopper

产品系列

Tesla

AI加速卡

类型

AI加速卡

PCIe 5.0 x16

总线接口

PCIe 4.0 x16

时钟速度

1590 MHz

基础频率

765 MHz

1980 MHz

最大睿频

1410 MHz

1313 MHz

显存频率

1215 MHz

显存

141GB

显存容量

40GB

HBM3e

显存类型

HBM2e

5120bit

显存位宽

5120bit

4800GB/s

显存带宽

1555GB/s

渲染规格

-

132

GPU大核数量

108

16896

流处理器数量

6912

528

纹理单元

432

24

光栅单元

160

528

张量核心

432

-

256 KB (per SM)

一级缓存

192 KB (per SM)

50 MB

二级缓存

40 MB

-

理论性能

47.52 GPixel/s

像素填充率

225.6 GPixel/s

1045 GTexel/s

纹理填充率

609.1 GTexel/s

1979 TFLOPS

FP16性能

77.97 TFLOPS

67 TFLOPS

FP32性能

19.49 TFLOPS

34 TFLOPS

FP64性能

9.746 TFLOPS

板卡设计

700W

功耗

250W

1100 W

建议电源功率

600 W

No outputs

输出接口

No outputs

8-pin EPS

电源接口

8-pin EPS

图形处理器

GH200

GPU型号

GA100

-

Hopper

架构

Ampere

TSMC

芯片厂

TSMC

4 nm

芯片工艺

7 nm

800亿

晶体管数量

542亿

814mm²

芯片面积

826mm²

图形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Shader Model

N/A