NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

VS

NVIDIA H100 SXM5 64 GB

NVIDIA H100 PCIe 96 GB

Kami membandingkan dua GPU GPU AI: 64GB VRAM H100 SXM5 64 GB dan 96GB VRAM H100 PCIe 96 GB untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA H100 SXM5 64 GB Kelebihan

Jam Peningkatan telah meningkat sebanyak 8% (1980MHz berbanding 1837MHz)

NVIDIA H100 PCIe 96 GB Kelebihan

Lebih VRAM (96GB berbanding 64GB)

Lebar jalur VRAM yang lebih besar (1681GB/s berbanding 1008GB/s)

Skor

Penilaian

FP32 (float)

H100 SXM5 64 GB +7%

66.91 TFLOPS

H100 PCIe 96 GB

62.08 TFLOPS

H100 SXM5 64 GB

VS

H100 PCIe 96 GB

Kad Grafik

Mac 2023

Tarikh Keluaran

Mac 2023

Tesla Hopper

Generasi

Tesla Hopper

GPU KI

Jenis

GPU KI

PCIe 5.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

1665 MHz

Jam Asas

1665 MHz

1980 MHz

Jam Peningkatan

1837 MHz

1313 MHz

Jam Memori

1313 MHz

Memori

64GB

Saiz Memori

96GB

HBM3

Jenis Memori

HBM3

3072bit

Bas Memori

5120bit

1008GB/s

Lebar Jalur

1681GB/s

Konfigurasi Render

-

132

Bilangan SM

132

16896

Unit Shading

16896

528

TMUs

528

24

ROPs

24

528

Teras Tensor

528

-

256 KB (per SM)

Cache L1

256 KB (per SM)

50 MB

Cache L2

50 MB

-

Prestasi Teoretis

47.52 GPixel/s

Kadar Piksel

44.09 GPixel/s

1045 GTexel/s

Kadar Tekstur

969.9 GTexel/s

267.6 TFLOPS

FP16 (setengah)

248.3 TFLOPS

66.91 TFLOPS

FP32 (apung)

62.08 TFLOPS

33.45 TFLOPS

FP64 (dua kali)

31.04 TFLOPS

Reka Bentuk Papan

700W

TDP

700W

1100 W

PSU Dicadangkan

1100 W

No outputs

Output

No outputs

8-pin EPS

Penyambung Kuasa

8-pin EPS

Pemproses Grafik

GH100

Nama GPU

GH100

-

Hopper

Seni Bina

Hopper

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

4 nm

80 bilion

Transistor

80 bilion

814 mm²

Saiz Die

814 mm²

Ciri-ciri Grafik

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

9.0

N/A

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

2

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 PCIe 80 GB

3

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5 80 GB

4

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

5

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 80 GB

6

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 SXM4 80 GB

7

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 PCIe

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 CNX

9

NVIDIA H100 SXM5 64 GB vs H200 SXM

10

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 80 GB