NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 3080 Ti

VS

NVIDIA H100 PCIe 96 GB

NVIDIA GeForce RTX 3080 Ti

AI加速卡我们比较了定位的96GB显存 H100 PCIe 96 GB 与定位桌面平台的12GB显存 GeForce RTX 3080 Ti 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。

主要差异

NVIDIA H100 PCIe 96 GB 的优势

发布时间晚1年10个月

最大睿频提高10% (1837MHz 与 1665MHz)

更大的显存 (96GB 与 12GB)

更大的显存带宽 (1681GB/s 与 912.4GB/s)

多出6656个渲染核心

NVIDIA GeForce RTX 3080 Ti 的优势

更低的TDP功耗 (350W 与 700W)

评分

基准测试

FP32浮点性能

H100 PCIe 96 GB +82%

62.08 TFLOPS

GeForce RTX 3080 Ti

34.1 TFLOPS

H100 PCIe 96 GB

VS

GeForce RTX 3080 Ti

基本信息

2023年3月

发布日期

2021年5月

Tesla Hopper

产品系列

GeForce 30

AI加速卡

类型

桌面

PCIe 5.0 x16

总线接口

PCIe 4.0 x16

时钟速度

1665 MHz

基础频率

1365 MHz

1837 MHz

最大睿频

1665 MHz

1313 MHz

显存频率

1188 MHz

显存

96GB

显存容量

12GB

HBM3

显存类型

GDDR6X

5120bit

显存位宽

384bit

1681GB/s

显存带宽

912.4GB/s

渲染规格

-

132

GPU大核数量

80

16896

流处理器数量

10240

528

纹理单元

320

24

光栅单元

112

528

张量核心

320

-

光追核心

80

256 KB (per SM)

一级缓存

128 KB (per SM)

50 MB

二级缓存

6 MB

-

理论性能

44.09 GPixel/s

像素填充率

186.5 GPixel/s

969.9 GTexel/s

纹理填充率

532.8 GTexel/s

248.3 TFLOPS

FP16性能

34.10 TFLOPS

62.08 TFLOPS

FP32性能

34.10 TFLOPS

31.04 TFLOPS

FP64性能

532.8 GFLOPS

板卡设计

700W

功耗

350W

1100 W

建议电源功率

750 W

No outputs

输出接口

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

电源接口

1x 12-pin

图形处理器

GH100

GPU型号

GA102

-

GPU规格

GA102-225-A1

Hopper

架构

Ampere

TSMC

芯片厂

Samsung

4 nm

芯片工艺

8 nm

800亿

晶体管数量

283亿

814mm²

芯片面积

628mm²

图形特性

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.6

N/A

Shader Model

6.6

相关GPU对比

1

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe 80 GB

2

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 CNX

3

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 64 GB

4

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

5

NVIDIA H100 PCIe 96 GB vs NVIDIA H800 SXM5

6

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 96 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

8

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe

9

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 SXM4 80 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 PCIe 80 GB