NVIDIA H100 SXM5 64 GB vs NVIDIA GeForce RTX 3090

VS

NVIDIA H100 SXM5 64 GB NVIDIA GeForce RTX 3090

AI GPU Abbiamo confrontato una GPU : 64GB VRAM H100 SXM5 64 GB e una GPU Piattaforma desktop: 24GB VRAM GeForce RTX 3090 per vedere quale GPU ha migliori prestazioni nelle specifiche chiave, nei test benchmark, nel consumo energetico, ecc.

Principali differenze

NVIDIA H100 SXM5 64 GB Vantaggi

Rilasciato 2 anni e 6 mesi in ritardo

Boost Clock è aumentato del 17% (1980MHz vs 1695MHz)

Più VRAM (64GB vs 24GB)

Banda VRAM più elevata (1008GB/s vs 936.2GB/s)

6400 core di rendering aggiuntivi

NVIDIA GeForce RTX 3090 Vantaggi

Potenza termica inferiore (350W vs 700W)

Punteggio

Benchmark

FP32 (virgola mobile)

H100 SXM5 64 GB +88%

66.91 TFLOPS

GeForce RTX 3090

35.58 TFLOPS

H100 SXM5 64 GB

VS

GeForce RTX 3090

Scheda grafica

mar 2023

Data di rilascio

set 2020

Tesla Hopper

Generazione

GeForce 30

AI GPU

Tipo

Desktop

PCIe 5.0 x16

Interfaccia bus

PCIe 4.0 x16

Velocità di clock

1665 MHz

Clock base

1395 MHz

1980 MHz

Boost Clock

1695 MHz

1313 MHz

Clock memoria

1219 MHz

Memoria

64GB

Dimensione memoria

24GB

HBM3

Tipo di memoria

GDDR6X

3072bit

Bus memoria

384bit

1008GB/s

Larghezza di banda

936.2GB/s

Configurazione del rendering

132

Conteggio SM

82

-

Unità di calcolo

-

16896

Unità di ombreggiatura

10496

528

TMUs

328

24

ROPs

112

528

Core Tensor

328

-

Core RT

82

256 KB (per SM)

Cache L1

128 KB (per SM)

50 MB

Cache L2

6 MB

Prestazioni teoriche

47.52 GPixel/s

Tasso di pixel

189.8 GPixel/s

1045 GTexel/s

Tasso di texture

556.0 GTexel/s

267.6 TFLOPS

FP16 (metà)

35.58 TFLOPS

66.91 TFLOPS

FP32 (float)

35.58 TFLOPS

33.45 TFLOPS

FP64 (doppio)

556.0 GFLOPS

Processore grafico

GH100

Nome GPU

GA102

-

Variante GPU

GA102-300-A1

Hopper

Architettura

Ampere

TSMC

Fonderia

Samsung

4 nm

Dimensione del processo

8 nm

80 miliardo

Transistor

28.3 miliardo

814 mm²

Dimensione del dado

628 mm²

Design della scheda

700W

TDP

350W

1100 W

PSU suggerito

750 W

No outputs

Uscite

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Connettori di alimentazione

1x 12-pin

Funzionalità grafiche

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.6

N/A

Modello Shader

6.6

Confronti GPU correlati

1

H200 SXM vs NVIDIA H100 SXM5 64 GB

2

NVIDIA H100 SXM5 96 GB vs NVIDIA H100 SXM5 64 GB

3

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5

4

NVIDIA H100 CNX vs NVIDIA H100 SXM5 64 GB

5

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 80 GB

6

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 SXM5 64 GB

7

NVIDIA GeForce RTX 3090 vs NVIDIA GeForce RTX 4060

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 80 GB

9

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 SXM4 80 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 PCIe 80 GB

Notizie Correlate

1

Strix Halo di AMD supporta fino a 128 GB di memoria, chiaramente progettato per modelli di linguaggio AI di grandi dimensioni

2

AMD lancerà presto la serie avanzata Ryzen AI PRO

3

Intel ritarda la spedizione di Lunar Lake: posticipata da giugno a settembre

4

Risultati Iniziali del Test AMD Ryzen AI 9 365 Rivelati: Miglioramento IPC Soddisfa le Aspettative

5

Elon Musk risponde a Jensen Huang di Nvidia: i robot umanoidi saranno dieci volte più comuni delle automobili

6

AMD Riporta in Vita il Supporto Multi-GPU: Fino a Quattro Schede e 192GB di VRAM

7

TSMC Esplora la Tecnologia Avanzata di Imballaggio dei Chip: Passa al Sottile Piatto Rettangolare, Quasi Triplicando l'Area Utilizzabile su Wafers da 300mm

8

Western Digital WD Blue SN5000 SSD Lanciato: Fino a 8TB di Capacità con Flash Mista TLC/QLC

9

È In Arrivo il Laptop Più Potente di Apple: Un'Anteprima del Nuovo MacBook Pro

10

Svolta di AMD: rivelato il benchmark del processore Ryzen AI HX 370 con prestazioni aggressive