AMD Instinct MI300A vs NVIDIA L40S

VS

AMD Instinct MI300A

NVIDIA L40S

我们比较了两个定位专业市场的GPU：128GB显存的 AMD Instinct MI300A 与 48GB显存的 L40S 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

AMD Instinct MI300A 的优势

发布时间晚1年2个月

更大的显存 (128GB 与 48GB)

更大的显存带宽 (5300GB/s 与 864.0GB/s)

NVIDIA L40S 的优势

最大睿频提高20% (2520MHz 与 2100MHz)

多出3584个渲染核心

更低的TDP功耗 (300W 与 760W)

评分

基准测试

FP32浮点性能

AMD Instinct MI300A +33%

122.6 TFLOPS

L40S

91.61 TFLOPS

AMD Instinct MI300A

VS

L40S

基本信息

2023年12月

发布日期

2022年10月

Instinct

产品系列

Tesla Ada

专业

类型

专业

PCIe 5.0 x16

总线接口

PCIe 4.0 x16

时钟速度

1000 MHz

基础频率

1110 MHz

2100 MHz

最大睿频

2520 MHz

5200 MHz

显存频率

2250 MHz

显存

128GB

显存容量

48GB

HBM3

显存类型

GDDR6

8192bit

显存位宽

384bit

5300GB/s

显存带宽

864.0GB/s

渲染规格

228

计算单元数

-

GPU大核数量

142

14592

流处理器数量

18176

880

纹理单元

568

0

光栅单元

192

-

张量核心

568

-

光追核心

142

16 KB (per CU)

一级缓存

128 KB (per SM)

16 MB

二级缓存

48 MB

-

理论性能

0 MPixel/s

像素填充率

483.8 GPixel/s

1496 GTexel/s

纹理填充率

1431 GTexel/s

980.6 TFLOPS

FP16性能

91.61 TFLOPS

122.6 TFLOPS

FP32性能

91.61 TFLOPS

61.3 TFLOPS

FP64性能

1431 GFLOPS

板卡设计

760W

功耗

300W

1000 W

建议电源功率

700 W

No outputs

输出接口

1x HDMI 2.1 3x DisplayPort 1.4a

None

电源接口

1x 16-pin

图形处理器

MI300

GPU型号

AD102

-

GPU规格

AD102-???-A1

CDNA 3.0

架构

Ada Lovelace

TSMC

芯片厂

TSMC

5 nm

芯片工艺

5 nm

1460亿

晶体管数量

763亿

1017mm²

芯片面积

609mm²

图形特性

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

Shader Model

6.7

相关GPU对比

1

AMD Instinct MI300A vs NVIDIA Quadro P3200 Max Q

2

AMD Instinct MI300A vs NVIDIA Quadro FX 3800

3

AMD Instinct MI300A vs NVIDIA Tesla M2070 Q

4

AMD Instinct MI300A vs NVIDIA RTX A4500 Mobile

5

AMD Instinct MI300A vs AMD Radeon Instinct MI250

6

AMD Instinct MI300A vs NVIDIA Quadro 2000D

7

AMD Instinct MI300A vs NVIDIA Quadro FX 470

8

AMD Instinct MI300A vs NVIDIA Quadro P1000

9

AMD Instinct MI300A vs NVIDIA Tesla M60

10

AMD Instinct MI300A vs NVIDIA GRID K560Q