NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 96 GB

VS

NVIDIA A100 SXM4 40 GB

NVIDIA H100 SXM5 96 GB

AI GPUAI GPU 我們比較了兩個定位於的GPU：40GB顯存的 A100 SXM4 40 GB 與 96GB顯存的 H100 SXM5 96 GB 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA A100 SXM4 40 GB 的優勢

更低的TDP功耗(400W vs 700W)

NVIDIA H100 SXM5 96 GB 的優勢

發布時間晚 2 年10 個月

最大睿頻提高30% (1837MHz vs 1410MHz)

更大的顯存 (96GB vs 40GB)

更大的顯存頻寬 (1681GB/s vs 1555GB/s)

多出9984個渲染核心

評分

基準測試

FP32浮點性能

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 96 GB +218%

62.08 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 96 GB

基本信息

2020年5月

發佈日期

2023年3月

Tesla Ampere

產品系列

Tesla Hopper

AI GPU

類型

AI GPU

PCIe 4.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

1095 MHz

基礎頻率

1665 MHz

1410 MHz

最大睿頻

1837 MHz

1215 MHz

顯存頻率

1313 MHz

顯存

40GB

顯存容量

96GB

HBM2e

顯存類型

HBM3

5120bit

顯存位寬

5120bit

1555GB/s

顯存帶寬

1681GB/s

渲染規格

-

108

GPU大核數量

132

6912

流處理器數量

16896

432

紋理單元

528

160

光柵單元

24

432

張量核心

528

-

192 KB (per SM)

一級緩存

256 KB (per SM)

40 MB

二級緩存

50 MB

-

理論性能

225.6 GPixel/s

像素填充率

44.09 GPixel/s

609.1 GTexel/s

紋理填充率

969.9 GTexel/s

77.97 TFLOPS

FP16性能

248.3 TFLOPS

19.49 TFLOPS

FP32性能

62.08 TFLOPS

9.746 TFLOPS

FP64性能

31.04 TFLOPS

主機板設計

400W

功率消耗

700W

800 W

建議電源功率

1100 W

No outputs

輸出介面

No outputs

None

電源接口

8-pin EPS

圖形處理器

GA100

GPU型號

GH100

-

Ampere

架構

Hopper

TSMC

晶片廠

TSMC

7 nm

晶片工藝

4 nm

542 億

晶體管數量

800 億

826 mm²

晶片面積

814 mm²

圖形特性

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Shader Model

N/A

相關GPU比較

1

NVIDIA A100 SXM4 40 GB vs NVIDIA H800 PCIe 80 GB

2

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 CNX

3

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe 96 GB

4

NVIDIA A100 SXM4 40 GB vs NVIDIA A800 PCIe 40 GB

5

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 96 GB

6

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

7

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe 80 GB

8

NVIDIA A100 SXM4 40 GB vs H200 SXM

9

NVIDIA A100 SXM4 40 GB vs NVIDIA A800 SXM4 80 GB

10

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 SXM4 80 GB