NVIDIA H100 SXM5 80 GB vs NVIDIA GeForce RTX 4090

VS

NVIDIA H100 SXM5 80 GB

NVIDIA GeForce RTX 4090

AI GPU 我們比較了定位於的80GB顯存 H100 SXM5 80 GB 與定位於桌面平台的24GB顯存 GeForce RTX 4090 。您將了解兩者在主要規格、基準測試、功耗等資訊中哪個GPU具有更好的性能。

主要差異

NVIDIA H100 SXM5 80 GB 的優勢

發布時間晚 6 個月

更大的顯存 (80GB vs 24GB)

更大的顯存頻寬 (1681GB/s vs 1.01TB/s)

多出512個渲染核心

NVIDIA GeForce RTX 4090 的優勢

最大睿頻提高27% (2520MHz vs 1980MHz)

更低的TDP功耗(450W vs 700W)

評分

基準測試

FP32浮點性能

H100 SXM5 80 GB

66.91 TFLOPS

GeForce RTX 4090 +23%

82.58 TFLOPS

H100 SXM5 80 GB

VS

GeForce RTX 4090

基本信息

2023年3月

發佈日期

2022年9月

Tesla Hopper

產品系列

GeForce 40

AI GPU

類型

桌面

PCIe 5.0 x16

總線介面

PCIe 4.0 x16

時鐘速度

1590 MHz

基礎頻率

2235 MHz

1980 MHz

最大睿頻

2520 MHz

1313 MHz

顯存頻率

1313 MHz

顯存

80GB

顯存容量

24GB

HBM3

顯存類型

GDDR6X

5120bit

顯存位寬

384bit

1681GB/s

顯存帶寬

1.01TB/s

渲染規格

-

132

GPU大核數量

128

16896

流處理器數量

16384

528

紋理單元

512

24

光柵單元

176

528

張量核心

512

-

光追核心

128

256 KB (per SM)

一級緩存

128 KB (per SM)

50 MB

二級緩存

72 MB

-

理論性能

47.52 GPixel/s

像素填充率

443.5 GPixel/s

1045 GTexel/s

紋理填充率

1290 GTexel/s

267.6 TFLOPS

FP16性能

82.58 TFLOPS

66.91 TFLOPS

FP32性能

82.58 TFLOPS

33.45 TFLOPS

FP64性能

1290 GFLOPS

主機板設計

700W

功率消耗

450W

1100 W

建議電源功率

850 W

No outputs

輸出介面

1x HDMI 2.13x DisplayPort 1.4a

8-pin EPS

電源接口

1x 16-pin

圖形處理器

GH100

GPU型號

AD102

-

GPU規格

AD102-300-A1

Hopper

架構

Ada Lovelace

TSMC

晶片廠

TSMC

4 nm

晶片工藝

5 nm

800 億

晶體管數量

763 億

814 mm²

晶片面積

609 mm²

圖形特性

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.9

N/A

Shader Model

6.8

相關GPU比較

1

NVIDIA H100 SXM5 80 GB vs NVIDIA A100 SXM4 80 GB

2

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 SXM5

3

NVIDIA H100 SXM5 80 GB vs H200 SXM

4

NVIDIA H100 SXM5 80 GB vs NVIDIA A100 SXM4 40 GB

5

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 SXM5 64 GB

6

NVIDIA H100 SXM5 80 GB vs NVIDIA A800 SXM4 80 GB

7

NVIDIA H100 SXM5 80 GB vs NVIDIA A800 PCIe 40 GB

8

NVIDIA H100 SXM5 80 GB vs NVIDIA H100 SXM5 96 GB

9

NVIDIA H100 SXM5 80 GB vs NVIDIA H800 PCIe 80 GB

10

NVIDIA H100 SXM5 80 GB vs NVIDIA A100 PCIe