NVIDIA L40 CNX vs AMD Instinct MI300X

VS

NVIDIA L40 CNX

AMD Instinct MI300X

Kami membandingkan dua GPU Pasaran Profesional: 24GB VRAM L40 CNX dan 192GB VRAM AMD Instinct MI300X untuk melihat GPU mana yang mempunyai prestasi lebih baik dalam spesifikasi utama, ujian penanda aras, penggunaan kuasa, dll.

Perbezaan Utama

NVIDIA L40 CNX Kelebihan

Jam Peningkatan telah meningkat sebanyak 18% (2475MHz berbanding 2100MHz)

TDP yang lebih rendah (300W vs 750W)

AMD Instinct MI300X Kelebihan

Dikeluarkan lewat 1 tahun dan 2 bulan

Lebih VRAM (192GB berbanding 24GB)

Lebar jalur VRAM yang lebih besar (5300GB/s berbanding 864.0GB/s)

1280 inti pemprosesan tambahan

Skor

Penilaian

FP32 (float)

L40 CNX

89.97 TFLOPS

AMD Instinct MI300X +81%

163.4 TFLOPS

L40 CNX

VS

AMD Instinct MI300X

Kad Grafik

Okt 2022

Tarikh Keluaran

Dis 2023

Tesla Ada

Generasi

Instinct

Profesional

Jenis

Profesional

PCIe 4.0 x16

Antaramuka Bas

PCIe 5.0 x16

Kelajuan Jam

1005 MHz

Jam Asas

1000 MHz

2475 MHz

Jam Peningkatan

2100 MHz

2250 MHz

Jam Memori

5200 MHz

Memori

24GB

Saiz Memori

192GB

GDDR6

Jenis Memori

HBM3

384bit

Bas Memori

8192bit

864.0GB/s

Lebar Jalur

5300GB/s

Konfigurasi Render

-

Unit Pengiraan

304

142

Bilangan SM

-

18176

Unit Shading

19456

568

TMUs

880

192

ROPs

0

568

Teras Tensor

-

142

Teras RT

-

128 KB (per SM)

Cache L1

16 KB (per CU)

48 MB

Cache L2

16 MB

-

Prestasi Teoretis

475.2 GPixel/s

Kadar Piksel

0 MPixel/s

1406 GTexel/s

Kadar Tekstur

1496 GTexel/s

89.97 TFLOPS

FP16 (setengah)

1300 TFLOPS

89.97 TFLOPS

FP32 (apung)

163.4 TFLOPS

1406 GFLOPS

FP64 (dua kali)

81.7 TFLOPS

Reka Bentuk Papan

300W

TDP

750W

700 W

PSU Dicadangkan

1000 W

1x HDMI 2.1 3x DisplayPort 1.4a

Output

No outputs

1x 16-pin

Penyambung Kuasa

None

Pemproses Grafik

AD102

Nama GPU

MI300

AD102-???-A1

Varian GPU

-

Ada Lovelace

Seni Bina

CDNA 3.0

TSMC

Pencetak

TSMC

4 nm

Saiz Proses

5 nm

76.3 bilion

Transistor

146 bilion

608 mm²

Saiz Die

1017 mm²

Ciri-ciri Grafik

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

Model Shader

N/A

Perbandingan GPU Berkaitan

1

NVIDIA L40 CNX vs NVIDIA GRID K520

2

NVIDIA L40 CNX vs NVIDIA RTX A2000 Embedded

3

NVIDIA L40 CNX vs NVIDIA GRID K160Q

4

NVIDIA L40 CNX vs NVIDIA Quadro FX 370M

5

NVIDIA L40 CNX vs NVIDIA Quadro M1200 Mobile

6

NVIDIA L40 CNX vs NVIDIA Tesla M40

7

NVIDIA L40 CNX vs NVIDIA Quadro K5000 SYNC

8

NVIDIA L40 CNX vs AMD Instinct MI300X

9

NVIDIA L40 CNX vs NVIDIA Quadro NVS 295

10

NVIDIA L40 CNX vs NVIDIA Quadro FX 4700 X2