AMD Instinct MI300X vs NVIDIA A100 SXM4 80 GB

VS

AMD Instinct MI300X

NVIDIA A100 SXM4 80 GB

AI GPU Chúng tôi so sánh một GPU Thị trường chuyên nghiệp: 192GB VRAM AMD Instinct MI300X và một GPU : 80GB VRAM A100 SXM4 80 GB để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

AMD Instinct MI300X Ưu điểm của

Phát hành trễ 3nămvà 1tháng

Tốc độ tăng cường đã tăng 49% (2100MHz vs 1410MHz)

VRAM nhiều hơn (192GB vs 80GB)

Băng thông VRAM lớn hơn (5300GB/s vs 2039GB/s)

12544 lõi xử lý bổ sung

NVIDIA A100 SXM4 80 GB Ưu điểm của

Công suất TDP thấp hơn (400W vs 750W)

Điểm số

Đánh giá

FP32 (số thực)

AMD Instinct MI300X +738%

163.4 TFLOPS

A100 SXM4 80 GB

19.49 TFLOPS

AMD Instinct MI300X

VS

A100 SXM4 80 GB

Card đồ họa

Tháng 12 2023

Ngày phát hành

Tháng 11 2020

Instinct

Thế hệ

Tesla Ampere

Chuyên nghiệp

Loại

GPU trí tuệ nhân tạo

PCIe 5.0 x16

Giao diện bus

PCIe 4.0 x16

Tốc độ đồng hồ

1000 MHz

Tốc độ cơ bản

1275 MHz

2100 MHz

Tốc độ tăng cường

1410 MHz

5200 MHz

Tốc độ bộ nhớ

1593 MHz

Bộ nhớ

192GB

Dung lượng bộ nhớ

80GB

HBM3

Loại bộ nhớ

HBM2e

8192bit

Bus bộ nhớ

5120bit

5300GB/s

Băng thông

2039GB/s

Cấu hình hiển thị

304

Đơn vị tính toán

-

Số SM

108

19456

Đơn vị shading

6912

880

TMUs

432

0

ROPs

160

-

Tensor Cores

432

-

16 KB (per CU)

Bộ nhớ cache L1

192 KB (per SM)

16 MB

Bộ nhớ cache L2

40 MB

-

Hiệu suất lý thuyết

0 MPixel/s

Tốc độ pixel

225.6 GPixel/s

1496 GTexel/s

Tốc độ texture

609.1 GTexel/s

1300 TFLOPS

FP16 (nửa)

77.97 TFLOPS

163.4 TFLOPS

FP32 (float)

19.49 TFLOPS

81.7 TFLOPS

FP64 (double)

9.746 TFLOPS

Thiết kế bo mạch chủ

750W

Công suất tiêu thụ

400W

1000 W

Nguồn điện đề xuất

800 W

No outputs

Cổng kết nối

No outputs

None

Đầu nối nguồn

None

Bộ xử lý đồ họa

MI300

Tên GPU

GA100

-

CDNA 3.0

Kiến trúc

Ampere

TSMC

Hãng sản xuất

TSMC

5 nm

Kích thước quy trình

7 nm

1460 tỷ

Transistors

542 tỷ

1017 mm²

Kích thước die

826 mm²

Tính năng đồ họa

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

-

CUDA

8.0

N/A

Mô hình shader

N/A

So sánh GPU liên quan

1

AMD Instinct MI300X vs NVIDIA Tesla V100 DGXS 16 GB

2

AMD Instinct MI300X vs NVIDIA Quadro FX 360M

3

AMD Instinct MI300X vs NVIDIA Tesla M2070

4

AMD Instinct MI300X vs NVIDIA GRID K340

5

AMD Instinct MI300X vs NVIDIA Tesla K20s

6

AMD Instinct MI300X vs NVIDIA GRID K540Q

7

AMD Instinct MI300X vs NVIDIA GRID K500

8

AMD Instinct MI300X vs NVIDIA Tesla V100 PCIe 32 GB

9

AMD Instinct MI300X vs NVIDIA Quadro M5000M

10

AMD Instinct MI300X vs NVIDIA Quadro P600 Mobile