NVIDIA H100 SXM5 64 GB vs NVIDIA GeForce RTX 3090

VS

NVIDIA H100 SXM5 64 GB NVIDIA GeForce RTX 3090

AI GPU Chúng tôi so sánh một GPU : 64GB VRAM H100 SXM5 64 GB và một GPU Nền tảng máy tính để bàn: 24GB VRAM GeForce RTX 3090 để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA H100 SXM5 64 GB Ưu điểm của

Phát hành trễ 2nămvà 6tháng

Tốc độ tăng cường đã tăng 17% (1980MHz vs 1695MHz)

VRAM nhiều hơn (64GB vs 24GB)

Băng thông VRAM lớn hơn (1008GB/s vs 936.2GB/s)

6400 lõi xử lý bổ sung

NVIDIA GeForce RTX 3090 Ưu điểm của

Công suất TDP thấp hơn (350W vs 700W)

Điểm số

Đánh giá

FP32 (số thực)

H100 SXM5 64 GB +88%

66.91 TFLOPS

GeForce RTX 3090

35.58 TFLOPS

H100 SXM5 64 GB

VS

GeForce RTX 3090

Card đồ họa

Thg 3 2023

Ngày phát hành

Thg 9 2020

Tesla Hopper

Thế hệ

GeForce 30

GPU trí tuệ nhân tạo

Loại

Máy tính để bàn

PCIe 5.0 x16

Giao diện bus

PCIe 4.0 x16

Tốc độ đồng hồ

1665 MHz

Tốc độ cơ bản

1395 MHz

1980 MHz

Tốc độ tăng cường

1695 MHz

1313 MHz

Tốc độ bộ nhớ

1219 MHz

Bộ nhớ

64GB

Dung lượng bộ nhớ

24GB

HBM3

Loại bộ nhớ

GDDR6X

3072bit

Bus bộ nhớ

384bit

1008GB/s

Băng thông

936.2GB/s

Cấu hình hiển thị

132

Số SM

82

-

Đơn vị tính toán

-

16896

Đơn vị shading

10496

528

TMUs

328

24

ROPs

112

528

Tensor Cores

328

-

RT Cores

82

256 KB (per SM)

Bộ nhớ cache L1

128 KB (per SM)

50 MB

Bộ nhớ cache L2

6 MB

Hiệu suất lý thuyết

47.52 GPixel/s

Tốc độ pixel

189.8 GPixel/s

1045 GTexel/s

Tốc độ texture

556.0 GTexel/s

267.6 TFLOPS

FP16 (nửa)

35.58 TFLOPS

66.91 TFLOPS

FP32 (float)

35.58 TFLOPS

33.45 TFLOPS

FP64 (double)

556.0 GFLOPS

Bộ xử lý đồ họa

GH100

Tên GPU

GA102

-

Phiên bản GPU

GA102-300-A1

Hopper

Kiến trúc

Ampere

TSMC

Hãng sản xuất

Samsung

4 nm

Kích thước quy trình

8 nm

800 tỷ

Transistors

283 tỷ

814 mm²

Kích thước die

628 mm²

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

350W

1100 W

Nguồn điện đề xuất

750 W

No outputs

Cổng kết nối

1x HDMI 2.1 3x DisplayPort 1.4a

8-pin EPS

Đầu nối nguồn

1x 12-pin

Tính năng đồ họa

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.6

N/A

Mô hình shader

6.6

So sánh GPU liên quan

1

NVIDIA A800 PCIe 80 GB vs NVIDIA H100 SXM5 64 GB

2

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

3

NVIDIA RTX A6000 vs NVIDIA H100 SXM5 64 GB

4

NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5 64 GB

5

NVIDIA L4 vs NVIDIA H100 SXM5 64 GB

6

NVIDIA H100 SXM5 64 GB vs H200 SXM

7

NVIDIA GeForce RTX 3090 vs NVIDIA GeForce RTX 4060

8

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

9

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5 80 GB

10

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 80 GB