H200 SXM vs NVIDIA A100 PCIe

VS

H200 SXM

NVIDIA A100 PCIe

AI GPUAI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU를 비교했습니다. 141GB VRAM H200 SXM과 40GB VRAM A100 PCIe

주요 차이점

H200 SXM 의 장점

출시 3년 그리고 5개월 늦었습니다

부스트 클럭 의 성능이 40% 증가했습니다. (1980MHz 대 1410MHz)

더 많은 VRAM (141GB 대 40GB)

더 큰 VRAM 대역폭 (4800GB/s 대 1555GB/s)

9984 개의 추가 렌더링 코어

NVIDIA A100 PCIe 의 장점

낮은 TDP (250W 대 700W)

점수

벤치마크

FP32 (float)

H200 SXM +243%

67 TFLOPS

A100 PCIe

19.49 TFLOPS

H200 SXM

VS

A100 PCIe

그래픽 카드

2023년11월

출시일

2020년6월

Hopper

세대

Tesla

AI GPU

유형

AI GPU

PCIe 5.0 x16

버스 인터페이스

PCIe 4.0 x16

클럭 속도

1590 MHz

기본 클럭

765 MHz

1980 MHz

부스트 클럭

1410 MHz

1313 MHz

메모리 클럭

1215 MHz

메모리

141GB

메모리 크기

40GB

HBM3e

메모리 타입

HBM2e

5120bit

메모리 버스

5120bit

4800GB/s

대역폭

1555GB/s

렌더링 설정

-

132

스트림 프로세서 개수

108

16896

새딩 유닛

6912

528

텍스처 매핑 유닛

432

24

렌더 출력 파이프라인

160

528

텐서 코어

432

-

256 KB (per SM)

L1 캐시

192 KB (per SM)

50 MB

L2 캐시

40 MB

-

이론적 성능

47.52 GPixel/s

픽셀 속도

225.6 GPixel/s

1045 GTexel/s

텍스처 속도

609.1 GTexel/s

1979 TFLOPS

FP16 (반 정밀도)

77.97 TFLOPS

67 TFLOPS

FP32 (단 정밀도)

19.49 TFLOPS

34 TFLOPS

FP64 (배 정밀도)

9.746 TFLOPS

보드 디자인

700W

TDP

250W

1100 W

권장 전원 공급 장치

600 W

No outputs

출력 포트

No outputs

8-pin EPS

전원 연결자

8-pin EPS

그래픽 프로세서

GH200

GPU 이름

GA100

-

Hopper

아키텍처

Ampere

TSMC

파운드리

TSMC

4 nm

제조 공정 크기

7 nm

800 억

트랜지스터

542 억

814 mm²

다이 크기

826 mm²

그래픽 기능

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

쉐이더 모델

N/A