AMD Instinct MI300X vs NVIDIA L40 CNX

VS

AMD Instinct MI300X

NVIDIA L40 CNX

주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 전문 시장 GPU를 비교했습니다. 192GB VRAM AMD Instinct MI300X과 24GB VRAM L40 CNX

주요 차이점

AMD Instinct MI300X 의 장점

출시 1년 그리고 2개월 늦었습니다

더 많은 VRAM (192GB 대 24GB)

더 큰 VRAM 대역폭 (5300GB/s 대 864.0GB/s)

1280 개의 추가 렌더링 코어

NVIDIA L40 CNX 의 장점

부스트 클럭 의 성능이 18% 증가했습니다. (2475MHz 대 2100MHz)

낮은 TDP (300W 대 750W)

점수

벤치마크

FP32 (float)

AMD Instinct MI300X +81%

163.4 TFLOPS

L40 CNX

89.97 TFLOPS

AMD Instinct MI300X

VS

L40 CNX

그래픽 카드

2023년12월

출시일

2022년10월

Instinct

세대

Tesla Ada

전문

유형

전문

PCIe 5.0 x16

버스 인터페이스

PCIe 4.0 x16

클럭 속도

1000 MHz

기본 클럭

1005 MHz

2100 MHz

부스트 클럭

2475 MHz

5200 MHz

메모리 클럭

2250 MHz

메모리

192GB

메모리 크기

24GB

HBM3

메모리 타입

GDDR6

8192bit

메모리 버스

384bit

5300GB/s

대역폭

864.0GB/s

렌더링 설정

304

컴퓨트 유닛

-

스트림 프로세서 개수

142

19456

새딩 유닛

18176

880

텍스처 매핑 유닛

568

0

렌더 출력 파이프라인

192

-

텐서 코어

568

-

레이 트레이싱 코어

142

16 KB (per CU)

L1 캐시

128 KB (per SM)

16 MB

L2 캐시

48 MB

-

이론적 성능

0 MPixel/s

픽셀 속도

475.2 GPixel/s

1496 GTexel/s

텍스처 속도

1406 GTexel/s

1300 TFLOPS

FP16 (반 정밀도)

89.97 TFLOPS

163.4 TFLOPS

FP32 (단 정밀도)

89.97 TFLOPS

81.7 TFLOPS

FP64 (배 정밀도)

1406 GFLOPS

보드 디자인

750W

TDP

300W

1000 W

권장 전원 공급 장치

700 W

No outputs

출력 포트

1x HDMI 2.1 3x DisplayPort 1.4a

None

전원 연결자

1x 16-pin

그래픽 프로세서

MI300

GPU 이름

AD102

-

GPU 변형

AD102-???-A1

CDNA 3.0

아키텍처

Ada Lovelace

TSMC

파운드리

TSMC

5 nm

제조 공정 크기

4 nm

1460 억

트랜지스터

763 억

1017 mm²

다이 크기

608 mm²

그래픽 기능

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

-

CUDA

8.9

N/A

쉐이더 모델

6.6

AMD Instinct MI300X vs NVIDIA L40 CNX

주요 차이점

점수

벤치마크

그래픽 카드

클럭 속도

메모리

렌더링 설정

이론적 성능

보드 디자인

그래픽 프로세서

그래픽 기능

관련 GPU 비교

관련 뉴스