NVIDIA H100 PCIe 96 GB

這是一款採用了台積電 4nm工藝的GPU，採用Nvidia Hopper架構，上市時間為3月 2023。具有 800億個晶體管、16896 個 CUDA 核心和 96GB HBM3 顯存，具備 50MB 二級緩存，理論算力62.08TFLOPS，總功耗為700W。

基本信息

[舉報問題]

發佈日期

2023年3月

產品系列

Tesla Hopper

類型

AI GPU

總線介面

PCIe 5.0 x16

時鐘速度

[舉報問題]

基礎頻率

1665 MHz

最大睿頻

1837 MHz

顯存頻率

1313 MHz

顯存

[舉報問題]

顯存容量

96GB

顯存類型

HBM3

顯存位寬

5120bit

顯存帶寬

1681GB/s

渲染規格

[舉報問題]

GPU大核數量

132

流處理器數量

16896

紋理單元

528

光柵單元

24

張量核心

528

一級緩存

256 KB (per SM)

二級緩存

50 MB

理論性能

[舉報問題]

像素填充率

44.09 GPixel/s

紋理填充率

969.9 GTexel/s

FP16性能

248.3 TFLOPS

FP32性能

62.08 TFLOPS

FP64性能

31.04 TFLOPS

圖形處理器

[舉報問題]

GPU型號

GH100

架構

Hopper

晶片廠

TSMC

晶片工藝

4 nm

晶體管數量

800 億

晶片面積

814 mm²

主機板設計

[舉報問題]

功率消耗

700W

建議電源功率

1100 W

輸出介面

No outputs

電源接口

8-pin EPS

圖形特性

[舉報問題]

DirectX

N/A

OpenGL

N/A

OpenCL

3.0

Vulkan

N/A

CUDA

9.0

Shader Model

N/A

排行榜

[舉報問題]

FP32浮點性能

NVIDIA RTX 5000 Ada Generation 32 GB GDDR6

65.28 TFLOPS

AMD Radeon RX 7950 XT 20 GB GDDR6

64.51 TFLOPS

NVIDIA H100 SXM5 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA H100 PCIe 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA B200 SXM 192 GB 192 GB HBM3e

62.08 TFLOPS

AMD Radeon RX 7900 XTX 24 GB GDDR6

61.39 TFLOPS

AMD Radeon PRO W7900 48 GB GDDR6

61.32 TFLOPS

相關對比

1

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX A5000

2

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

3

NVIDIA RTX 6000 Ada vs NVIDIA H100 PCIe 96 GB

4

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

5

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 96 GB

6

NVIDIA H100 PCIe 96 GB vs NVIDIA Tesla V100 PCIe 32 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 3080 Ti

8

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 CNX

10

NVIDIA H100 PCIe 96 GB vs H200 SXM