NVIDIA L40S vs AMD Instinct MI300A

VS

NVIDIA L40S AMD Instinct MI300A

我們比較了兩個定位於專業市場的GPU：48GB顯存的 L40S 與 128GB顯存的 AMD Instinct MI300A 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA L40S 的優勢

最大睿頻提高20% (2520MHz vs 2100MHz)

多出3584個渲染核心

更低的TDP功耗(300W vs 760W)

AMD Instinct MI300A 的優勢

發布時間晚 1 年2 個月

更大的顯存 (128GB vs 48GB)

更大的顯存頻寬 (5300GB/s vs 864.0GB/s)

評分

基準測試

FP32浮點性能

L40S

91.61 TFLOPS

AMD Instinct MI300A +33%

122.6 TFLOPS

L40S

VS

AMD Instinct MI300A

基本信息

2022年10月

發佈日期

2023年12月

Tesla Ada

產品系列

Instinct

專業

類型

專業

PCIe 4.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

1110 MHz

基礎頻率

1000 MHz

2520 MHz

最大睿頻

2100 MHz

2250 MHz

顯存頻率

5200 MHz

顯存

48GB

顯存容量

128GB

GDDR6

顯存類型

HBM3

384bit

顯存位寬

8192bit

864.0GB/s

顯存帶寬

5300GB/s

渲染規格

142

GPU大核數量

-

計算單元

228

18176

流處理器數量

14592

568

紋理單元

880

192

光柵單元

0

568

張量核心

-

142

光追核心

-

128 KB (per SM)

一級緩存

16 KB (per CU)

48 MB

二級緩存

16 MB

理論性能

483.8 GPixel/s

像素填充率

0 MPixel/s

1431 GTexel/s

紋理填充率

1496 GTexel/s

91.61 TFLOPS

FP16性能

980.6 TFLOPS

91.61 TFLOPS

FP32性能

122.6 TFLOPS

1431 GFLOPS

FP64性能

61.3 TFLOPS

圖形處理器

AD102

GPU型號

MI300

AD102-???-A1

GPU規格

-

Ada Lovelace

架構

CDNA 3.0

TSMC

晶片廠

TSMC

5 nm

晶片工藝

5 nm

763 億

晶體管數量

1460 億

609 mm²

晶片面積

1017 mm²

主機板設計

300W

功率消耗

760W

700 W

建議電源功率

1000 W

1x HDMI 2.1 3x DisplayPort 1.4a

輸出介面

No outputs

1x 16-pin

電源接口

None

圖形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.7

Shader Model

N/A

NVIDIA L40S vs AMD Instinct MI300A

主要差異

評分

基準測試

基本信息

時鐘速度

顯存

渲染規格

理論性能

圖形處理器

主機板設計

圖形特性

相關GPU比較