NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 80 GB

VS

NVIDIA A100 SXM4 40 GB

NVIDIA H100 SXM5 80 GB

Kami membandingkan dua GPU GPU AI: 40GB VRAM A100 SXM4 40 GB dan 80GB VRAM H100 SXM5 80 GB untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA A100 SXM4 40 GB Kelebihan

TDP yang lebih rendah (400W vs 700W)

NVIDIA H100 SXM5 80 GB Kelebihan

Dikeluarkan lewat 2 tahun dan 10 bulan

Jam Peningkatan telah meningkat sebanyak 40% (1980MHz berbanding 1410MHz)

Lebih VRAM (80GB berbanding 40GB)

Lebar jalur VRAM yang lebih besar (1681GB/s berbanding 1555GB/s)

9984 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 80 GB +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5 80 GB

Kad Grafik

Mei 2020

Tarikh Keluaran

Mac 2023

Tesla Ampere

Generasi

Tesla Hopper

GPU KI

Jenis

GPU KI

PCIe 4.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

1095 MHz

Jam Asas

1590 MHz

1410 MHz

Jam Peningkatan

1980 MHz

1215 MHz

Jam Memori

1313 MHz

Memori

40GB

Saiz Memori

80GB

HBM2e

Jenis Memori

HBM3

5120bit

Bas Memori

5120bit

1555GB/s

Lebar Jalur

1681GB/s

Konfigurasi Render

-

108

Bilangan SM

132

6912

Unit Shading

16896

432

TMUs

528

160

ROPs

24

432

Teras Tensor

528

-

192 KB (per SM)

Cache L1

256 KB (per SM)

40 MB

Cache L2

50 MB

-

Prestasi Teoretis

225.6 GPixel/s

Kadar Piksel

47.52 GPixel/s

609.1 GTexel/s

Kadar Tekstur

1045 GTexel/s

77.97 TFLOPS

FP16 (setengah)

267.6 TFLOPS

19.49 TFLOPS

FP32 (apung)

66.91 TFLOPS

9.746 TFLOPS

FP64 (dua kali)

33.45 TFLOPS

Reka Bentuk Papan

400W

TDP

700W

800 W

PSU Dicadangkan

1100 W

No outputs

Output

No outputs

None

Penyambung Kuasa

8-pin EPS

Pemproses Grafik

GA100

Nama GPU

GH100

-

Ampere

Seni Bina

Hopper

TSMC

Pencetak

TSMC

7 nm

Saiz Proses

4 nm

54.2 bilion

Transistor

80 bilion

826 mm²

Saiz Die

814 mm²

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA A100 SXM4 40 GB vs NVIDIA H800 PCIe 80 GB

2

NVIDIA A100 SXM4 40 GB vs NVIDIA A800 PCIe 80 GB

3

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe 80 GB

4

NVIDIA A100 SXM4 40 GB vs H200 SXM

5

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 80 GB

6

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 SXM4 80 GB

7

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 PCIe

8

NVIDIA A100 SXM4 40 GB vs NVIDIA H800 SXM5

9

NVIDIA A100 SXM4 40 GB vs NVIDIA A100 PCIe

10

NVIDIA A100 SXM4 40 GB vs NVIDIA A800 PCIe 40 GB