NVIDIA Tesla T4 vs AMD Instinct MI300A

VS

NVIDIA Tesla T4

AMD Instinct MI300A

私たちは2つのプロフェッショナル市場向けのGPU：16GBのメモリを搭載した Tesla T4 と 128GBのメモリを搭載した AMD Instinct MI300A を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA Tesla T4 の利点

より低いTDP電力 (70W と 760W)

AMD Instinct MI300A の利点

リリースが5年と 3 ヶ月遅れました

最大ブーストクロックは 32% 向上しました (2100MHz と 1590MHz)

より大きな VRAM (128GB vs 16GB)

より大きなメモリ帯域幅 (5300GB/s vs 320.0GB/s)

追加されたレンダリングコア数は 12032個です

スコア

ベンチマーク

FP32 (浮動小数点)

Tesla T4

8.141 TFLOPS

AMD Instinct MI300A +1405%

122.6 TFLOPS

Tesla T4

VS

AMD Instinct MI300A

グラフィックスカード

2018年9月

リリース日

2023年12月

Tesla

世代

Instinct

プロフェッショナル

タイプ

プロフェッショナル

PCIe 3.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

585 MHz

ベースクロック

1000 MHz

1590 MHz

ブーストクロック

2100 MHz

1250 MHz

メモリクロック

5200 MHz

メモリ

16GB

メモリサイズ

128GB

GDDR6

メモリタイプ

HBM3

256bit

メモリバス

8192bit

320.0GB/s

帯域幅

5300GB/s

レンダリング設定

-

計算ユニット

228

40

SM数

-

2560

シェーディングユニット

14592

160

TMU

880

64

ROP

0

320

テンソルコア

-

40

RTコア

-

64 KB (per SM)

L1キャッシュ

16 KB (per CU)

4 MB

L2キャッシュ

16 MB

-

理論的な性能

101.8 GPixel/s

ピクセルレート

0 MPixel/s

254.4 GTexel/s

テクスチャレート

1496 GTexel/s

65.13 TFLOPS

FP16 (半精度)

980.6 TFLOPS

8.141 TFLOPS

FP32 (単精度)

122.6 TFLOPS

254.4 GFLOPS

FP64 (倍精度)

61.3 TFLOPS

ボード設計

70W

TDP

760W

250 W

推奨PSU

1000 W

No outputs

出力

No outputs

None

電源コネクタ

None

グラフィックスプロセッサ

TU104

GPU名

MI300

TU104-895-A1

GPUバリアント

-

Turing

アーキテクチャ

CDNA 3.0

TSMC

ファウンドリ

TSMC

12 nm

プロセスサイズ

5 nm

136 億

トランジスタ

1460 億

545 mm²

ダイサイズ

1017 mm²

グラフィックス機能

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

7.5

CUDA

-

6.6

シェーダモデル

N/A