NVIDIA A100 PCIe vs NVIDIA H100 PCIe 96 GB

VS

NVIDIA A100 PCIe

NVIDIA H100 PCIe 96 GB

Kami membandingkan dua GPU GPU AI: 40GB VRAM A100 PCIe dan 96GB VRAM H100 PCIe 96 GB untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA A100 PCIe Kelebihan

TDP yang lebih rendah (250W vs 700W)

NVIDIA H100 PCIe 96 GB Kelebihan

Dikeluarkan lewat 2 tahun dan 9 bulan

Jam Peningkatan telah meningkat sebanyak 30% (1837MHz berbanding 1410MHz)

Lebih VRAM (96GB berbanding 40GB)

Lebar jalur VRAM yang lebih besar (1681GB/s berbanding 1555GB/s)

9984 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

A100 PCIe

19.49 TFLOPS

H100 PCIe 96 GB +218%

62.08 TFLOPS

A100 PCIe

VS

H100 PCIe 96 GB

Kad Grafik

Jun 2020

Tarikh Keluaran

Mac 2023

Tesla

Generasi

Tesla Hopper

GPU KI

Jenis

GPU KI

PCIe 4.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

765 MHz

Jam Asas

1665 MHz

1410 MHz

Jam Peningkatan

1837 MHz

1215 MHz

Jam Memori

1313 MHz

Memori

40GB

Saiz Memori

96GB

HBM2e

Jenis Memori

HBM3

5120bit

Bas Memori

5120bit

1555GB/s

Lebar Jalur

1681GB/s

Konfigurasi Render

-

108

Bilangan SM

132

6912

Unit Shading

16896

432

TMUs

528

160

ROPs

24

432

Teras Tensor

528

-

192 KB (per SM)

Cache L1

256 KB (per SM)

40 MB

Cache L2

50 MB

-

Prestasi Teoretis

225.6 GPixel/s

Kadar Piksel

44.09 GPixel/s

609.1 GTexel/s

Kadar Tekstur

969.9 GTexel/s

77.97 TFLOPS

FP16 (setengah)

248.3 TFLOPS

19.49 TFLOPS

FP32 (apung)

62.08 TFLOPS

9.746 TFLOPS

FP64 (dua kali)

31.04 TFLOPS

Reka Bentuk Papan

250W

TDP

700W

600 W

PSU Dicadangkan

1100 W

No outputs

Output

No outputs

8-pin EPS

Penyambung Kuasa

8-pin EPS

Pemproses Grafik

GA100

Nama GPU

GH100

-

Ampere

Seni Bina

Hopper

TSMC

Pencetak

TSMC

7 nm

Saiz Proses

4 nm

54.2 bilion

Transistor

80 bilion

826 mm²

Saiz Die

814 mm²

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 80 GB

2

NVIDIA A100 PCIe vs NVIDIA H100 SXM5

3

NVIDIA A100 PCIe vs NVIDIA H100 CNX

4

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 80 GB

5

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 80 GB

6

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 40 GB

7

NVIDIA A100 PCIe vs H200 SXM

8

NVIDIA A100 PCIe vs NVIDIA A800 SXM4 80 GB

9

NVIDIA A100 PCIe vs NVIDIA H800 SXM5

10

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB