AMD Instinct MI300X vs NVIDIA L40

VS

AMD Instinct MI300X

NVIDIA L40

Kami membandingkan dua GPU Pasaran Profesional: 192GB VRAM AMD Instinct MI300X dan 48GB VRAM L40 untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

AMD Instinct MI300X Kelebihan

Dikeluarkan lewat 1 tahun dan 2 bulan

Lebih VRAM (192GB berbanding 48GB)

Lebar jalur VRAM yang lebih besar (5300GB/s berbanding 864.0GB/s)

1280 inti pemprosesan tambahan

NVIDIA L40 Kelebihan

Jam Peningkatan telah meningkat sebanyak 19% (2490MHz berbanding 2100MHz)

TDP yang lebih rendah (300W vs 750W)

Skor

Penilaian

FP32 (float)

AMD Instinct MI300X +80%

163.4 TFLOPS

L40

90.52 TFLOPS

AMD Instinct MI300X

VS

L40

Kad Grafik

Dis 2023

Tarikh Keluaran

Okt 2022

Instinct

Generasi

Tesla Ada

Profesional

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1000 MHz

Jam Asas

735 MHz

2100 MHz

Jam Peningkatan

2490 MHz

5200 MHz

Jam Memori

2250 MHz

Memori

192GB

Saiz Memori

48GB

HBM3

Jenis Memori

GDDR6

8192bit

Bas Memori

384bit

5300GB/s

Lebar Jalur

864.0GB/s

Konfigurasi Render

304

Unit Pengiraan

-

Bilangan SM

142

19456

Unit Shading

18176

880

TMUs

568

0

ROPs

192

-

Teras Tensor

568

-

Teras RT

142

16 KB (per CU)

Cache L1

128 KB (per SM)

16 MB

Cache L2

96 MB

-

Prestasi Teoretis

0 MPixel/s

Kadar Piksel

478.1 GPixel/s

1496 GTexel/s

Kadar Tekstur

1414 GTexel/s

1300 TFLOPS

FP16 (setengah)

90.52 TFLOPS

163.4 TFLOPS

FP32 (apung)

90.52 TFLOPS

81.7 TFLOPS

FP64 (dua kali)

1414 GFLOPS

Reka Bentuk Papan

750W

TDP

300W

1000 W

PSU Dicadangkan

700 W

No outputs

Output

4x DisplayPort 1.4a

None

Penyambung Kuasa

1x 16-pin

Pemproses Grafik

MI300

Nama GPU

AD102

-

Varian GPU

AD102-895-A1

CDNA 3.0

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

5 nm

Saiz Proses

4 nm

146 bilion

Transistor

76.3 bilion

1017 mm²

Saiz Die

608 mm²

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Model Shader

6.6

Perbandingan GPU Berkaitan

1

AMD Instinct MI300X vs NVIDIA Tesla M60

2

AMD Instinct MI300X vs NVIDIA A10M

3

AMD Instinct MI300X vs NVIDIA GRID M60 4A

4

AMD Instinct MI300X vs NVIDIA Quadro K6000

5

AMD Instinct MI300X vs NVIDIA Quadro NVS 140M

6

AMD Instinct MI300X vs NVIDIA Tesla P100 SXM2

7

AMD Instinct MI300X vs NVIDIA Jetson Orin NX 8 GB

8

AMD Instinct MI300X vs NVIDIA Tesla P100 PCIe 16 GB

9

AMD Instinct MI300X vs NVIDIA Quadro P4200 Mobile

10

AMD Instinct MI300X vs NVIDIA Quadro K620