NVIDIA L40 vs AMD Instinct MI300X

VS

NVIDIA L40

AMD Instinct MI300X

私たちは2つのプロフェッショナル市場向けのGPU：48GBのメモリを搭載した L40 と 192GBのメモリを搭載した AMD Instinct MI300X を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA L40 の利点

最大ブーストクロックは 19% 向上しました (2490MHz と 2100MHz)

より低いTDP電力 (300W と 750W)

AMD Instinct MI300X の利点

リリースが1年と 2 ヶ月遅れました

より大きな VRAM (192GB vs 48GB)

より大きなメモリ帯域幅 (5300GB/s vs 864.0GB/s)

追加されたレンダリングコア数は 1280個です

スコア

ベンチマーク

FP32 (浮動小数点)

L40

90.52 TFLOPS

AMD Instinct MI300X +80%

163.4 TFLOPS

L40

VS

AMD Instinct MI300X

グラフィックスカード

2022年10月

リリース日

2023年12月

Tesla Ada

世代

Instinct

プロフェッショナル

タイプ

プロフェッショナル

PCIe 4.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

735 MHz

ベースクロック

1000 MHz

2490 MHz

ブーストクロック

2100 MHz

2250 MHz

メモリクロック

5200 MHz

メモリ

48GB

メモリサイズ

192GB

GDDR6

メモリタイプ

HBM3

384bit

メモリバス

8192bit

864.0GB/s

帯域幅

5300GB/s

レンダリング設定

-

計算ユニット

304

142

SM数

-

18176

シェーディングユニット

19456

568

TMU

880

192

ROP

0

568

テンソルコア

-

142

RTコア

-

128 KB (per SM)

L1キャッシュ

16 KB (per CU)

96 MB

L2キャッシュ

16 MB

-

理論的な性能

478.1 GPixel/s

ピクセルレート

0 MPixel/s

1414 GTexel/s

テクスチャレート

1496 GTexel/s

90.52 TFLOPS

FP16 (半精度)

1300 TFLOPS

90.52 TFLOPS

FP32 (単精度)

163.4 TFLOPS

1414 GFLOPS

FP64 (倍精度)

81.7 TFLOPS

ボード設計

300W

TDP

750W

700 W

推奨PSU

1000 W

4x DisplayPort 1.4a

出力

No outputs

1x 16-pin

電源コネクタ

None

グラフィックスプロセッサ

AD102

GPU名

MI300

AD102-895-A1

GPUバリアント

-

Ada Lovelace

アーキテクチャ

CDNA 3.0

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

5 nm

763 億

トランジスタ

1460 億

608 mm²

ダイサイズ

1017 mm²

グラフィックス機能

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

8.9

CUDA

-

6.6

シェーダモデル

N/A

NVIDIA L40 vs AMD Instinct MI300X

主要な違い

スコア

ベンチマーク

グラフィックスカード

クロック速度

メモリ

レンダリング設定

理論的な性能

ボード設計

グラフィックスプロセッサ

グラフィックス機能

関連GPU比較

関連ニュース