NVIDIA H100 PCIe 80 GB vs NVIDIA A100 SXM4 40 GB

VS

NVIDIA H100 PCIe 80 GB

NVIDIA A100 SXM4 40 GB

Kami membandingkan dua GPU GPU AI: 80GB VRAM H100 PCIe 80 GB dan 40GB VRAM A100 SXM4 40 GB untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 PCIe 80 GB Kelebihan

Dikeluarkan lewat 2 tahun dan 10 bulan

Jam Peningkatan telah meningkat sebanyak 24% (1755MHz berbanding 1410MHz)

Lebih VRAM (80GB berbanding 40GB)

Lebar jalur VRAM yang lebih besar (2040GB/s berbanding 1555GB/s)

7680 inti pemprosesan tambahan

TDP yang lebih rendah (350W vs 400W)

Skor

Penilaian

FP32 (float)

H100 PCIe 80 GB +162%

51.22 TFLOPS

A100 SXM4 40 GB

19.49 TFLOPS

H100 PCIe 80 GB

VS

A100 SXM4 40 GB

Kad Grafik

Mac 2023

Tarikh Keluaran

Mei 2020

Tesla Hopper

Generasi

Tesla Ampere

GPU KI

Jenis

GPU KI

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1095 MHz

Jam Asas

1095 MHz

1755 MHz

Jam Peningkatan

1410 MHz

1593 MHz

Jam Memori

1215 MHz

Memori

80GB

Saiz Memori

40GB

HBM2e

Jenis Memori

HBM2e

5120bit

Bas Memori

5120bit

2040GB/s

Lebar Jalur

1555GB/s

Konfigurasi Render

-

114

Bilangan SM

108

14592

Unit Shading

6912

456

TMUs

432

24

ROPs

160

456

Teras Tensor

432

-

256 KB (per SM)

Cache L1

192 KB (per SM)

50 MB

Cache L2

40 MB

-

Prestasi Teoretis

42.12 GPixel/s

Kadar Piksel

225.6 GPixel/s

800.3 GTexel/s

Kadar Tekstur

609.1 GTexel/s

204.9 TFLOPS

FP16 (setengah)

77.97 TFLOPS

51.22 TFLOPS

FP32 (apung)

19.49 TFLOPS

25.61 TFLOPS

FP64 (dua kali)

9.746 TFLOPS

Reka Bentuk Papan

350W

TDP

400W

750 W

PSU Dicadangkan

800 W

No outputs

Output

No outputs

1x 16-pin

Penyambung Kuasa

None

Pemproses Grafik

GH100

Nama GPU

GA100

-

Hopper

Seni Bina

Ampere

TSMC

Pencetak

TSMC

5 nm

Saiz Proses

7 nm

80 bilion

Transistor

54.2 bilion

814 mm²

Saiz Die

826 mm²

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 PCIe

2

NVIDIA H100 PCIe 80 GB vs NVIDIA H800 SXM5

3

NVIDIA H100 PCIe 80 GB vs NVIDIA A100 SXM4 80 GB

4

NVIDIA H100 PCIe 80 GB vs NVIDIA A800 PCIe 40 GB

5

NVIDIA H100 PCIe 80 GB vs NVIDIA A100 SXM4 40 GB

6

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 SXM5 80 GB

7

NVIDIA H100 PCIe 80 GB vs NVIDIA A800 SXM4 80 GB

8

NVIDIA H100 PCIe 80 GB vs NVIDIA H800 PCIe 80 GB

9

NVIDIA H100 PCIe 80 GB vs NVIDIA A800 PCIe 80 GB

10

NVIDIA H100 PCIe 80 GB vs NVIDIA H100 CNX