NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

VS

NVIDIA H100 SXM5 64 GB

NVIDIA H100 PCIe 96 GB

AI GPUAI GPU 주요 사양, 벤치마크 테스트, 전력 소비 등을 기준으로 두 개의 GPU를 비교했습니다. 64GB VRAM H100 SXM5 64 GB과 96GB VRAM H100 PCIe 96 GB

주요 차이점

NVIDIA H100 SXM5 64 GB 의 장점

부스트 클럭 의 성능이 8% 증가했습니다. (1980MHz 대 1837MHz)

NVIDIA H100 PCIe 96 GB 의 장점

더 많은 VRAM (96GB 대 64GB)

더 큰 VRAM 대역폭 (1681GB/s 대 1008GB/s)

점수

벤치마크

FP32 (float)

H100 SXM5 64 GB +7%

66.91 TFLOPS

H100 PCIe 96 GB

62.08 TFLOPS

H100 SXM5 64 GB

VS

H100 PCIe 96 GB

그래픽 카드

2023년3월

출시일

2023년3월

Tesla Hopper

세대

Tesla Hopper

AI GPU

유형

AI GPU

PCIe 5.0 x16

버스 인터페이스

PCIe 5.0 x16

클럭 속도

1665 MHz

기본 클럭

1665 MHz

1980 MHz

부스트 클럭

1837 MHz

1313 MHz

메모리 클럭

1313 MHz

메모리

64GB

메모리 크기

96GB

HBM3

메모리 타입

HBM3

3072bit

메모리 버스

5120bit

1008GB/s

대역폭

1681GB/s

렌더링 설정

-

132

스트림 프로세서 개수

132

16896

새딩 유닛

16896

528

텍스처 매핑 유닛

528

24

렌더 출력 파이프라인

24

528

텐서 코어

528

-

256 KB (per SM)

L1 캐시

256 KB (per SM)

50 MB

L2 캐시

50 MB

-

이론적 성능

47.52 GPixel/s

픽셀 속도

44.09 GPixel/s

1045 GTexel/s

텍스처 속도

969.9 GTexel/s

267.6 TFLOPS

FP16 (반 정밀도)

248.3 TFLOPS

66.91 TFLOPS

FP32 (단 정밀도)

62.08 TFLOPS

33.45 TFLOPS

FP64 (배 정밀도)

31.04 TFLOPS

보드 디자인

700W

TDP

700W

1100 W

권장 전원 공급 장치

1100 W

No outputs

출력 포트

No outputs

8-pin EPS

전원 연결자

8-pin EPS

그래픽 프로세서

GH100

GPU 이름

GH100

-

Hopper

아키텍처

Hopper

TSMC

파운드리

TSMC

4 nm

제조 공정 크기

4 nm

800 억

트랜지스터

800 억

814 mm²

다이 크기

814 mm²

그래픽 기능

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

9.0

N/A

쉐이더 모델

N/A