AMD Instinct MI300A vs NVIDIA L40S

VS

AMD Instinct MI300A

NVIDIA L40S

我們比較了兩個定位於專業市場的GPU：128GB顯存的 AMD Instinct MI300A 與 48GB顯存的 L40S 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

AMD Instinct MI300A 的優勢

發布時間晚 1 年2 個月

更大的顯存 (128GB vs 48GB)

更大的顯存頻寬 (5300GB/s vs 864.0GB/s)

NVIDIA L40S 的優勢

最大睿頻提高20% (2520MHz vs 2100MHz)

多出3584個渲染核心

更低的TDP功耗(300W vs 760W)

評分

基準測試

FP32浮點性能

AMD Instinct MI300A +33%

122.6 TFLOPS

L40S

91.61 TFLOPS

AMD Instinct MI300A

VS

L40S

基本信息

2023年12月

發佈日期

2022年10月

Instinct

產品系列

Tesla Ada

專業

類型

專業

PCIe 5.0 x16

總線介面

PCIe 4.0 x16

時鐘速度

1000 MHz

基礎頻率

1110 MHz

2100 MHz

最大睿頻

2520 MHz

5200 MHz

顯存頻率

2250 MHz

顯存

128GB

顯存容量

48GB

HBM3

顯存類型

GDDR6

8192bit

顯存位寬

384bit

5300GB/s

顯存帶寬

864.0GB/s

渲染規格

228

計算單元

-

GPU大核數量

142

14592

流處理器數量

18176

880

紋理單元

568

0

光柵單元

192

-

張量核心

568

-

光追核心

142

16 KB (per CU)

一級緩存

128 KB (per SM)

16 MB

二級緩存

48 MB

-

理論性能

0 MPixel/s

像素填充率

483.8 GPixel/s

1496 GTexel/s

紋理填充率

1431 GTexel/s

980.6 TFLOPS

FP16性能

91.61 TFLOPS

122.6 TFLOPS

FP32性能

91.61 TFLOPS

61.3 TFLOPS

FP64性能

1431 GFLOPS

主機板設計

760W

功率消耗

300W

1000 W

建議電源功率

700 W

No outputs

輸出介面

1x HDMI 2.1 3x DisplayPort 1.4a

None

電源接口

1x 16-pin

圖形處理器

MI300

GPU型號

AD102

-

GPU規格

AD102-???-A1

CDNA 3.0

架構

Ada Lovelace

TSMC

晶片廠

TSMC

5 nm

晶片工藝

5 nm

1460 億

晶體管數量

763 億

1017 mm²

晶片面積

609 mm²

圖形特性

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Shader Model

6.7

相關GPU比較

1

AMD Instinct MI300A vs NVIDIA RTX A2000 12 GB

2

AMD Instinct MI300A vs NVIDIA Tesla V100 DGXS 32 GB

3

AMD Instinct MI300A vs NVIDIA Quadro 7000

4

AMD Instinct MI300A vs NVIDIA Quadro K4100M

5

AMD Instinct MI300A vs NVIDIA Tesla PG500 216

6

AMD Instinct MI300A vs NVIDIA Quadro RTX 3000 Mobile Refresh

7

AMD Instinct MI300A vs NVIDIA A10G

8

AMD Instinct MI300A vs NVIDIA Jetson Orin NX 8 GB

9

AMD Instinct MI300A vs NVIDIA RTX A4500

10

AMD Instinct MI300A vs NVIDIA Quadro K6000 SDI