NVIDIA A100 PCIe vs H200 SXM

VS

NVIDIA A100 PCIe

H200 SXM

Kami membandingkan dua GPU GPU AI: 40GB VRAM A100 PCIe dan 141GB VRAM H200 SXM untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA A100 PCIe Kelebihan

TDP yang lebih rendah (250W vs 700W)

H200 SXM Kelebihan

Dikeluarkan lewat 3 tahun dan 5 bulan

Jam Peningkatan telah meningkat sebanyak 40% (1980MHz berbanding 1410MHz)

Lebih VRAM (141GB berbanding 40GB)

Lebar jalur VRAM yang lebih besar (4800GB/s berbanding 1555GB/s)

9984 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

A100 PCIe

19.49 TFLOPS

H200 SXM +243%

67 TFLOPS

A100 PCIe

VS

H200 SXM

Kad Grafik

Jun 2020

Tarikh Keluaran

Nov 2023

Tesla

Generasi

Hopper

GPU KI

Jenis

GPU KI

PCIe 4.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

765 MHz

Jam Asas

1590 MHz

1410 MHz

Jam Peningkatan

1980 MHz

1215 MHz

Jam Memori

1313 MHz

Memori

40GB

Saiz Memori

141GB

HBM2e

Jenis Memori

HBM3e

5120bit

Bas Memori

5120bit

1555GB/s

Lebar Jalur

4800GB/s

Konfigurasi Render

-

108

Bilangan SM

132

6912

Unit Shading

16896

432

TMUs

528

160

ROPs

24

432

Teras Tensor

528

-

192 KB (per SM)

Cache L1

256 KB (per SM)

40 MB

Cache L2

50 MB

-

Prestasi Teoretis

225.6 GPixel/s

Kadar Piksel

47.52 GPixel/s

609.1 GTexel/s

Kadar Tekstur

1045 GTexel/s

77.97 TFLOPS

FP16 (setengah)

1979 TFLOPS

19.49 TFLOPS

FP32 (apung)

67 TFLOPS

9.746 TFLOPS

FP64 (dua kali)

34 TFLOPS

Reka Bentuk Papan

250W

TDP

700W

600 W

PSU Dicadangkan

1100 W

No outputs

Output

No outputs

8-pin EPS

Penyambung Kuasa

8-pin EPS

Pemproses Grafik

GA100

Nama GPU

GH200

-

Ampere

Seni Bina

Hopper

TSMC

Pencetak

TSMC

7 nm

Saiz Proses

4 nm

54.2 bilion

Transistor

80 bilion

826 mm²

Saiz Die

814 mm²

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA A100 PCIe vs NVIDIA H100 CNX

2

NVIDIA A100 PCIe vs H200 SXM

3

NVIDIA A100 PCIe vs NVIDIA A800 SXM4 80 GB

4

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB

5

NVIDIA A100 PCIe vs NVIDIA H100 SXM5

6

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 80 GB

7

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

8

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 96 GB

9

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 40 GB

10

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 80 GB