NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 64 GB

VS

NVIDIA H100 PCIe 96 GB

NVIDIA H100 SXM5 64 GB

AI GPUAI GPU Chúng tôi so sánh hai GPU : 96GB VRAM H100 PCIe 96 GB và 64GB VRAM H100 SXM5 64 GB để xem GPU nào có hiệu suất tốt hơn trong các thông số kỹ thuật chính, kiểm tra đánh giá, tiêu thụ điện năng, v.v.

Sự khác biệt chính

NVIDIA H100 PCIe 96 GB Ưu điểm của

VRAM nhiều hơn (96GB vs 64GB)

Băng thông VRAM lớn hơn (1681GB/s vs 1008GB/s)

NVIDIA H100 SXM5 64 GB Ưu điểm của

Tốc độ tăng cường đã tăng 8% (1980MHz vs 1837MHz)

Điểm số

Đánh giá

FP32 (số thực)

H100 PCIe 96 GB

62.08 TFLOPS

H100 SXM5 64 GB +7%

66.91 TFLOPS

H100 PCIe 96 GB

VS

H100 SXM5 64 GB

Card đồ họa

Tháng 3 2023

Ngày phát hành

Tháng 3 2023

Tesla Hopper

Thế hệ

Tesla Hopper

GPU trí tuệ nhân tạo

Loại

GPU trí tuệ nhân tạo

PCIe 5.0 x16

Giao diện bus

PCIe 5.0 x16

Tốc độ đồng hồ

1665 MHz

Tốc độ cơ bản

1665 MHz

1837 MHz

Tốc độ tăng cường

1980 MHz

1313 MHz

Tốc độ bộ nhớ

1313 MHz

Bộ nhớ

96GB

Dung lượng bộ nhớ

64GB

HBM3

Loại bộ nhớ

HBM3

5120bit

Bus bộ nhớ

3072bit

1681GB/s

Băng thông

1008GB/s

Cấu hình hiển thị

-

132

Số SM

132

16896

Đơn vị shading

16896

528

TMUs

528

24

ROPs

24

528

Tensor Cores

528

-

256 KB (per SM)

Bộ nhớ cache L1

256 KB (per SM)

50 MB

Bộ nhớ cache L2

50 MB

-

Hiệu suất lý thuyết

44.09 GPixel/s

Tốc độ pixel

47.52 GPixel/s

969.9 GTexel/s

Tốc độ texture

1045 GTexel/s

248.3 TFLOPS

FP16 (nửa)

267.6 TFLOPS

62.08 TFLOPS

FP32 (float)

66.91 TFLOPS

31.04 TFLOPS

FP64 (double)

33.45 TFLOPS

Thiết kế bo mạch chủ

700W

Công suất tiêu thụ

700W

1100 W

Nguồn điện đề xuất

1100 W

No outputs

Cổng kết nối

No outputs

8-pin EPS

Đầu nối nguồn

8-pin EPS

Bộ xử lý đồ họa

GH100

Tên GPU

GH100

-

Hopper

Kiến trúc

Hopper

TSMC

Hãng sản xuất

TSMC

4 nm

Kích thước quy trình

4 nm

800 tỷ

Transistors

800 tỷ

814 mm²

Kích thước die

814 mm²

Tính năng đồ họa

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

9.0

N/A

Mô hình shader

N/A

So sánh GPU liên quan

1

NVIDIA H100 PCIe 96 GB vs NVIDIA H800 SXM5

2

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 40 GB

3

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 PCIe

4

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 80 GB

5

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 PCIe 40 GB

6

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 64 GB

7

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 PCIe

8

NVIDIA H100 PCIe 96 GB vs NVIDIA H100 SXM5 96 GB

9

NVIDIA H100 PCIe 96 GB vs NVIDIA A800 PCIe 80 GB

10

NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 80 GB