NVIDIA Tesla T4 vs AMD Instinct MI300A

VS

NVIDIA Tesla T4

AMD Instinct MI300A

我們比較了兩個定位於專業市場的GPU：16GB顯存的 Tesla T4 與 128GB顯存的 AMD Instinct MI300A 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA Tesla T4 的優勢

更低的TDP功耗(70W vs 760W)

AMD Instinct MI300A 的優勢

發布時間晚 5 年3 個月

最大睿頻提高32% (2100MHz vs 1590MHz)

更大的顯存 (128GB vs 16GB)

更大的顯存頻寬 (5300GB/s vs 320.0GB/s)

多出12032個渲染核心

評分

基準測試

FP32浮點性能

Tesla T4

8.141 TFLOPS

AMD Instinct MI300A +1405%

122.6 TFLOPS

Tesla T4

VS

AMD Instinct MI300A

基本信息

2018年9月

發佈日期

2023年12月

Tesla

產品系列

Instinct

專業

類型

專業

PCIe 3.0 x16

總線介面

PCIe 5.0 x16

時鐘速度

585 MHz

基礎頻率

1000 MHz

1590 MHz

最大睿頻

2100 MHz

1250 MHz

顯存頻率

5200 MHz

顯存

16GB

顯存容量

128GB

GDDR6

顯存類型

HBM3

256bit

顯存位寬

8192bit

320.0GB/s

顯存帶寬

5300GB/s

渲染規格

-

計算單元

228

40

GPU大核數量

-

2560

流處理器數量

14592

160

紋理單元

880

64

光柵單元

0

320

張量核心

-

40

光追核心

-

64 KB (per SM)

一級緩存

16 KB (per CU)

4 MB

二級緩存

16 MB

-

理論性能

101.8 GPixel/s

像素填充率

0 MPixel/s

254.4 GTexel/s

紋理填充率

1496 GTexel/s

65.13 TFLOPS

FP16性能

980.6 TFLOPS

8.141 TFLOPS

FP32性能

122.6 TFLOPS

254.4 GFLOPS

FP64性能

61.3 TFLOPS

主機板設計

70W

功率消耗

760W

250 W

建議電源功率

1000 W

No outputs

輸出介面

No outputs

None

電源接口

None

圖形處理器

TU104

GPU型號

MI300

TU104-895-A1

GPU規格

-

Turing

架構

CDNA 3.0

TSMC

晶片廠

TSMC

12 nm

晶片工藝

5 nm

136 億

晶體管數量

1460 億

545 mm²

晶片面積

1017 mm²

圖形特性

12 Ultimate (12_2)

DirectX

N/A

4.6

OpenGL

N/A

3.0

OpenCL

3.0

1.3

Vulkan

N/A

7.5

CUDA

-

6.6

Shader Model

N/A