AMD Instinct MI300X vs NVIDIA L40G

VS

AMD Instinct MI300X

NVIDIA L40G

我們比較了兩個定位於專業市場的GPU：192GB顯存的 AMD Instinct MI300X 與 24GB顯存的 L40G 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

AMD Instinct MI300X 的優勢

發布時間晚 1 年2 個月

更大的顯存 (192GB vs 24GB)

更大的顯存頻寬 (5300GB/s vs 864.0GB/s)

多出1280個渲染核心

NVIDIA L40G 的優勢

最大睿頻提高18% (2475MHz vs 2100MHz)

更低的TDP功耗(300W vs 750W)

評分

基準測試

FP32浮點性能

AMD Instinct MI300X +81%

163.4 TFLOPS

L40G

89.97 TFLOPS

AMD Instinct MI300X

VS

L40G

基本信息

2023年12月

發佈日期

2022年10月

Instinct

產品系列

Tesla Ada

專業

類型

專業

PCIe 5.0 x16

總線介面

PCIe 4.0 x16

時鐘速度

1000 MHz

基礎頻率

1005 MHz

2100 MHz

最大睿頻

2475 MHz

5200 MHz

顯存頻率

2250 MHz

顯存

192GB

顯存容量

24GB

HBM3

顯存類型

GDDR6

8192bit

顯存位寬

384bit

5300GB/s

顯存帶寬

864.0GB/s

渲染規格

304

計算單元

-

GPU大核數量

142

19456

流處理器數量

18176

880

紋理單元

568

0

光柵單元

192

-

張量核心

568

-

光追核心

142

16 KB (per CU)

一級緩存

128 KB (per SM)

16 MB

二級緩存

48 MB

-

理論性能

0 MPixel/s

像素填充率

475.2 GPixel/s

1496 GTexel/s

紋理填充率

1406 GTexel/s

1300 TFLOPS

FP16性能

89.97 TFLOPS

163.4 TFLOPS

FP32性能

89.97 TFLOPS

81.7 TFLOPS

FP64性能

1406 GFLOPS

主機板設計

750W

功率消耗

300W

1000 W

建議電源功率

700 W

No outputs

輸出介面

1x HDMI 2.1 3x DisplayPort 1.4a

None

電源接口

1x 16-pin

圖形處理器

MI300

GPU型號

AD102

-

GPU規格

AD102-???-A1

CDNA 3.0

架構

Ada Lovelace

TSMC

晶片廠

TSMC

5 nm

晶片工藝

4 nm

1460 億

晶體管數量

763 億

1017 mm²

晶片面積

608 mm²

圖形特性

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Shader Model

6.6

相關GPU比較

1

AMD Instinct MI300X vs NVIDIA Quadro FX 570

2

AMD Instinct MI300X vs AMD Radeon Instinct MI50

3

AMD Instinct MI300X vs NVIDIA GRID K260Q

4

AMD Instinct MI300X vs NVIDIA RTX A500 Mobile

5

AMD Instinct MI300X vs NVIDIA Quadro 6000 SDI

6

AMD Instinct MI300X vs NVIDIA Tesla T40 24 GB

7

AMD Instinct MI300X vs NVIDIA Quadro 2000D

8

AMD Instinct MI300X vs NVIDIA Quadro Plex 7000

9

AMD Instinct MI300X vs NVIDIA RTX A5500 Max-Q

10

AMD Instinct MI300X vs NVIDIA Quadro M3000 SE