NVIDIA L40 vs AMD Instinct MI300X

VS

NVIDIA L40 AMD Instinct MI300X

我們比較了兩個定位於專業市場的GPU：48GB顯存的 L40 與 192GB顯存的 AMD Instinct MI300X 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA L40 的優勢

最大睿頻提高19% (2490MHz vs 2100MHz)

更低的TDP功耗(300W vs 750W)

AMD Instinct MI300X 的優勢

發布時間晚 1 年2 個月

更大的顯存 (192GB vs 48GB)

更大的顯存頻寬 (5300GB/s vs 864.0GB/s)

多出1280個渲染核心

評分

基準測試

FP32浮點性能

L40

90.52 TFLOPS

AMD Instinct MI300X +80%

163.4 TFLOPS

L40

VS

AMD Instinct MI300X

基本信息

2022年10月

發佈日期

2023年12月

Tesla Ada

產品系列

Instinct

專業

類型

專業

PCIe 4.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

735 MHz

基礎頻率

1000 MHz

2490 MHz

最大睿頻

2100 MHz

2250 MHz

顯存頻率

5200 MHz

顯存

48GB

顯存容量

192GB

GDDR6

顯存類型

HBM3

384bit

顯存位寬

8192bit

864.0GB/s

顯存帶寬

5300GB/s

渲染規格

142

GPU大核數量

-

計算單元

304

18176

流處理器數量

19456

568

紋理單元

880

192

光柵單元

0

568

張量核心

-

142

光追核心

-

128 KB (per SM)

一級緩存

16 KB (per CU)

96 MB

二級緩存

16 MB

理論性能

478.1 GPixel/s

像素填充率

0 MPixel/s

1414 GTexel/s

紋理填充率

1496 GTexel/s

90.52 TFLOPS

FP16性能

1300 TFLOPS

90.52 TFLOPS

FP32性能

163.4 TFLOPS

1414 GFLOPS

FP64性能

81.7 TFLOPS

圖形處理器

AD102

GPU型號

MI300

AD102-895-A1

GPU規格

-

Ada Lovelace

架構

CDNA 3.0

TSMC

晶片廠

TSMC

4 nm

晶片工藝

5 nm

763 億

晶體管數量

1460 億

608 mm²

晶片面積

1017 mm²

主機板設計

300W

功率消耗

750W

700 W

建議電源功率

1000 W

4x DisplayPort 1.4a

輸出介面

No outputs

1x 16-pin

電源接口

None

圖形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

Shader Model

N/A

NVIDIA L40 vs AMD Instinct MI300X

主要差異

評分

基準測試

基本信息

時鐘速度

顯存

渲染規格

理論性能

圖形處理器

主機板設計

圖形特性

相關GPU比較