NVIDIA H100 PCIe 96 GB

Đây là một GPU được sản xuất bởi TSMC quá trình 4nm, dựa trên kiến trúc Nvidia Hopper và ra mắt vào Tháng 3 2023. Nó có 800 tỷ transistor, 16896 lõi CUDA và bộ nhớ 96GB HBM3, với bộ nhớ cache L2 50MB, hiệu năng lý thuyết 62.08TFLOPS, với tổng công suất tiêu thụ 700W.

Card đồ họa

[Báo Cáo Vấn Đề]

Ngày phát hành

Tháng 3 2023

Thế hệ

Tesla Hopper

Loại

GPU trí tuệ nhân tạo

Giao diện bus

PCIe 5.0 x16

Tốc độ đồng hồ

[Báo Cáo Vấn Đề]

Tốc độ cơ bản

1665 MHz

Tốc độ tăng cường

1837 MHz

Tốc độ bộ nhớ

1313 MHz

Bộ nhớ

[Báo Cáo Vấn Đề]

Dung lượng bộ nhớ

96GB

Loại bộ nhớ

HBM3

Bus bộ nhớ

5120bit

Băng thông

1681GB/s

Cấu hình hiển thị

[Báo Cáo Vấn Đề]

Số SM

132

Đơn vị shading

16896

TMUs

528

ROPs

24

Tensor Cores

528

Bộ nhớ cache L1

256 KB (per SM)

Bộ nhớ cache L2

50 MB

Hiệu suất lý thuyết

[Báo Cáo Vấn Đề]

Tốc độ pixel

44.09 GPixel/s

Tốc độ texture

969.9 GTexel/s

FP16 (nửa)

248.3 TFLOPS

FP32 (float)

62.08 TFLOPS

FP64 (double)

31.04 TFLOPS

Bộ xử lý đồ họa

[Báo Cáo Vấn Đề]

Tên GPU

GH100

Kiến trúc

Hopper

Hãng sản xuất

TSMC

Kích thước quy trình

4 nm

Transistors

800 tỷ

Kích thước die

814 mm²

Thiết kế bo mạch chủ

[Báo Cáo Vấn Đề]

Công suất tiêu thụ

700W

Nguồn điện đề xuất

1100 W

Cổng kết nối

No outputs

Đầu nối nguồn

8-pin EPS

Tính năng đồ họa

[Báo Cáo Vấn Đề]

DirectX

N/A

OpenGL

N/A

OpenCL

3.0

Vulkan

N/A

CUDA

9.0

Mô hình shader

N/A

Xếp hạng

[Báo Cáo Vấn Đề]

FP32 (số thực)

NVIDIA RTX 5000 Ada Generation 32 GB GDDR6

65.28 TFLOPS

AMD Radeon RX 7950 XT 20 GB GDDR6

64.51 TFLOPS

NVIDIA H100 SXM5 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA H100 PCIe 96 GB 96 GB HBM3

62.08 TFLOPS

NVIDIA B200 SXM 192 GB 192 GB HBM3e

62.08 TFLOPS

AMD Radeon RX 7900 XTX 24 GB GDDR6

61.39 TFLOPS

AMD Radeon PRO W7900 48 GB GDDR6

61.32 TFLOPS

So sánh liên quan

1

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX A5000

2

NVIDIA RTX 6000 Ada Generation vs NVIDIA H100 PCIe 96 GB

3

NVIDIA RTX 6000 Ada vs NVIDIA H100 PCIe 96 GB

4

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX 6000 Ada

5

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 96 GB

6

NVIDIA H100 PCIe 96 GB vs NVIDIA Tesla V100 PCIe 32 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA GeForce RTX 3080 Ti

8

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe

10

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe 80 GB