AMD Instinct MI300X vs NVIDIA L40 CNX

VS

AMD Instinct MI300X

NVIDIA L40 CNX

Kami membandingkan dua GPU Pasaran Profesional: 192GB VRAM AMD Instinct MI300X dan 24GB VRAM L40 CNX untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

AMD Instinct MI300X Kelebihan

Dikeluarkan lewat 1 tahun dan 2 bulan

Lebih VRAM (192GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (5300GB/s berbanding 864.0GB/s)

1280 inti pemprosesan tambahan

NVIDIA L40 CNX Kelebihan

Jam Peningkatan telah meningkat sebanyak 18% (2475MHz berbanding 2100MHz)

TDP yang lebih rendah (300W vs 750W)

Skor

Penilaian

FP32 (float)

AMD Instinct MI300X +81%

163.4 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300X

VS

L40 CNX

Kad Grafik

Dis 2023

Tarikh Keluaran

Okt 2022

Instinct

Generasi

Tesla Ada

Profesional

Jenis

Profesional

PCIe 5.0 x16

Antaramuka Bas

PCIe 4.0 x16

Kelajuan Jam

1000 MHz

Jam Asas

1005 MHz

2100 MHz

Jam Peningkatan

2475 MHz

5200 MHz

Jam Memori

2250 MHz

Memori

192GB

Saiz Memori

24GB

HBM3

Jenis Memori

GDDR6

8192bit

Bas Memori

384bit

5300GB/s

Lebar Jalur

864.0GB/s

Konfigurasi Render

304

Unit Pengiraan

-

Bilangan SM

142

19456

Unit Shading

18176

880

TMUs

568

0

ROPs

192

-

Teras Tensor

568

-

Teras RT

142

16 KB (per CU)

Cache L1

128 KB (per SM)

16 MB

Cache L2

48 MB

-

Prestasi Teoretis

0 MPixel/s

Kadar Piksel

475.2 GPixel/s

1496 GTexel/s

Kadar Tekstur

1406 GTexel/s

1300 TFLOPS

FP16 (setengah)

89.97 TFLOPS

163.4 TFLOPS

FP32 (apung)

89.97 TFLOPS

81.7 TFLOPS

FP64 (dua kali)

1406 GFLOPS

Reka Bentuk Papan

750W

TDP

300W

1000 W

PSU Dicadangkan

700 W

No outputs

Output

1x HDMI 2.1 3x DisplayPort 1.4a

None

Penyambung Kuasa

1x 16-pin

Pemproses Grafik

MI300

Nama GPU

AD102

-

Varian GPU

AD102-???-A1

CDNA 3.0

Seni Bina

Ada Lovelace

TSMC

Pencetak

TSMC

5 nm

Saiz Proses

4 nm

146 bilion

Transistor

76.3 bilion

1017 mm²

Saiz Die

608 mm²

Ciri-ciri Grafik

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Model Shader

6.6

Perbandingan GPU Berkaitan

1

AMD Instinct MI300X vs NVIDIA Quadro FX 2800M

2

AMD Instinct MI300X vs NVIDIA Quadro RTX 3000 Mobile

3

AMD Instinct MI300X vs NVIDIA Tesla V100 PCIe 32 GB

4

AMD Instinct MI300X vs NVIDIA Tesla M2090

5

AMD Instinct MI300X vs NVIDIA Quadro K1000M

6

AMD Instinct MI300X vs NVIDIA Tesla P100 SXM2

7

AMD Instinct MI300X vs NVIDIA Quadro M500M

8

AMD Instinct MI300X vs NVIDIA Quadro K5200

9

AMD Instinct MI300X vs NVIDIA Quadro FX 4800 Mac Edition

10

AMD Instinct MI300X vs NVIDIA Jetson AGX Orin 64 GB