NVIDIA L40 CNX vs AMD Instinct MI300A

VS

NVIDIA L40 CNX

AMD Instinct MI300A

我们比较了两个定位专业市场的GPU：24GB显存的 L40 CNX 与 128GB显存的 AMD Instinct MI300A 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA L40 CNX 的优势

最大睿频提高18% (2475MHz 与 2100MHz)

多出3584个渲染核心

更低的TDP功耗 (300W 与 760W)

AMD Instinct MI300A 的优势

发布时间晚1年2个月

更大的显存 (128GB 与 24GB)

更大的显存带宽 (5300GB/s 与 864.0GB/s)

评分

基准测试

FP32浮点性能

L40 CNX

89.97 TFLOPS

AMD Instinct MI300A +36%

122.6 TFLOPS

L40 CNX

VS

AMD Instinct MI300A

基本信息

2022年10月

发布日期

2023年12月

Tesla Ada

产品系列

Instinct

专业

类型

专业

PCIe 4.0 x16

总线接口

PCIe 5.0 x16

时钟速度

1005 MHz

基础频率

1000 MHz

2475 MHz

最大睿频

2100 MHz

2250 MHz

显存频率

5200 MHz

显存

24GB

显存容量

128GB

GDDR6

显存类型

HBM3

384bit

显存位宽

8192bit

864.0GB/s

显存带宽

5300GB/s

渲染规格

-

计算单元数

228

142

GPU大核数量

-

18176

流处理器数量

14592

568

纹理单元

880

192

光栅单元

0

568

张量核心

-

142

光追核心

-

128 KB (per SM)

一级缓存

16 KB (per CU)

48 MB

二级缓存

16 MB

-

理论性能

475.2 GPixel/s

像素填充率

0 MPixel/s

1406 GTexel/s

纹理填充率

1496 GTexel/s

89.97 TFLOPS

FP16性能

980.6 TFLOPS

89.97 TFLOPS

FP32性能

122.6 TFLOPS

1406 GFLOPS

FP64性能

61.3 TFLOPS

板卡设计

300W

功耗

760W

700 W

建议电源功率

1000 W

1x HDMI 2.1 3x DisplayPort 1.4a

输出接口

No outputs

1x 16-pin

电源接口

None

图形处理器

AD102

GPU型号

MI300

AD102-???-A1

GPU规格

-

Ada Lovelace

架构

CDNA 3.0

TSMC

芯片厂

TSMC

4 nm

芯片工艺

5 nm

763亿

晶体管数量

1460亿

608mm²

芯片面积

1017mm²

图形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

Shader Model

N/A

NVIDIA L40 CNX vs AMD Instinct MI300A

主要差异

评分

基准测试

基本信息

时钟速度

显存

渲染规格

理论性能

板卡设计

图形处理器

图形特性

相关GPU对比