AMD Instinct MI300A vs NVIDIA Tesla T40 24 GB

VS

AMD Instinct MI300A

NVIDIA Tesla T40 24 GB

Chúng tôi so sánh hai GPU Thị trường chuyên nghiệp: 128GB VRAM AMD Instinct MI300A và 24GB VRAM Tesla T40 24 GB để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

AMD Instinct MI300A Ưu điểm của

Tốc độ tăng cường đã tăng 35% (2100MHz vs 1560MHz)

VRAM nhiều hơn (128GB vs 24GB)

Băng thông VRAM lớn hơn (5300GB/s vs 624.0GB/s)

9984 lõi xử lý bổ sung

NVIDIA Tesla T40 24 GB Ưu điểm của

Công suất TDP thấp hơn (260W vs 760W)

Điểm số

Đánh giá

FP32 (số thực)

AMD Instinct MI300A +752%

122.6 TFLOPS

Tesla T40 24 GB

14.38 TFLOPS

AMD Instinct MI300A

VS

Tesla T40 24 GB

Card đồ họa

Tháng 12 2023

Ngày phát hành

Không xác định

Instinct

Thế hệ

Tesla Turing

Chuyên nghiệp

Loại

Chuyên nghiệp

PCIe 5.0 x16

Giao diện bus

PCIe 3.0 x16

Tốc độ đồng hồ

1000 MHz

Tốc độ cơ bản

1305 MHz

2100 MHz

Tốc độ tăng cường

1560 MHz

5200 MHz

Tốc độ bộ nhớ

1625 MHz

Bộ nhớ

128GB

Dung lượng bộ nhớ

24GB

HBM3

Loại bộ nhớ

GDDR6

8192bit

Bus bộ nhớ

384bit

5300GB/s

Băng thông

624.0GB/s

Cấu hình hiển thị

228

Đơn vị tính toán

-

Số SM

72

14592

Đơn vị shading

4608

880

TMUs

288

0

ROPs

96

-

Tensor Cores

576

-

RT Cores

72

16 KB (per CU)

Bộ nhớ cache L1

64 KB (per SM)

16 MB

Bộ nhớ cache L2

6 MB

-

Hiệu suất lý thuyết

0 MPixel/s

Tốc độ pixel

149.8 GPixel/s

1496 GTexel/s

Tốc độ texture

449.3 GTexel/s

980.6 TFLOPS

FP16 (nửa)

28.75 TFLOPS

122.6 TFLOPS

FP32 (float)

14.38 TFLOPS

61.3 TFLOPS

FP64 (double)

449.3 GFLOPS

Thiết kế bo mạch chủ

760W

Công suất tiêu thụ

260W

1000 W

Nguồn điện đề xuất

600 W

No outputs

Cổng kết nối

No outputs

None

Đầu nối nguồn

1x 6-pin + 1x 8-pin

Bộ xử lý đồ họa

MI300

Tên GPU

TU102

-

CDNA 3.0

Kiến trúc

Turing

TSMC

Hãng sản xuất

TSMC

5 nm

Kích thước quy trình

12 nm

1460 tỷ

Transistors

186 tỷ

1017 mm²

Kích thước die

754 mm²

Tính năng đồ họa

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

7.5

N/A

Mô hình shader

6.7

So sánh GPU liên quan

1

AMD Instinct MI300A vs NVIDIA Quadro RTX 4000

2

AMD Instinct MI300A vs NVIDIA Quadro K3000M

3

AMD Instinct MI300A vs NVIDIA Quadro FX 380

4

AMD Instinct MI300A vs NVIDIA Quadro P3200 Max Q

5

AMD Instinct MI300A vs NVIDIA Quadro FX 380 LP

6

AMD Instinct MI300A vs NVIDIA Jetson Orin Nano 4 GB

7

AMD Instinct MI300A vs NVIDIA Quadro FX 5600

8

AMD Instinct MI300A vs NVIDIA Quadro RTX 3000 Mobile Refresh

9

AMD Instinct MI300A vs NVIDIA Tesla K20Xm

10

AMD Instinct MI300A vs NVIDIA Quadro NVS 160M