NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe 96 GB

VS

NVIDIA H100 SXM5 64 GB

NVIDIA H100 PCIe 96 GB

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 64GB VRAM H100 SXM5 64 GB และ 96GB VRAM H100 PCIe 96 GB เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 SXM5 64 GB ประโยชน์ของ

นาฬิกาเพิ่มพูน เพิ่มขึ้น 8% (1980MHz vs 1837MHz)

NVIDIA H100 PCIe 96 GB ประโยชน์ของ

VRAM เพิ่มเติม (96GB vs 64GB)

ประสิทธิภาพ VRAM สูงกว่า (1681GB/s vs 1008GB/s)

คะแนน

มาตรฐาน

FP32 (float)

H100 SXM5 64 GB +7%

66.91 TFLOPS

H100 PCIe 96 GB

62.08 TFLOPS

H100 SXM5 64 GB

VS

H100 PCIe 96 GB

การ์ดกราฟิก

มี.ค. 2566

วันที่เปิดตัว

มี.ค. 2566

Tesla Hopper

รุ่น

Tesla Hopper

AI GPU

ชนิด

AI GPU

PCIe 5.0 x16

อินเตอร์เฟซบัส

PCIe 5.0 x16

ความเร็วนาฬิกา

1665 MHz

นาฬิกาฐาน

1665 MHz

1980 MHz

นาฬิกาเพิ่มพูน

1837 MHz

1313 MHz

นาฬิกาหน่วยความจำ

1313 MHz

หน่วยความจำ

64GB

ขนาดหน่วยความจำ

96GB

HBM3

ประเภทหน่วยความจำ

HBM3

3072bit

บัสหน่วยความจำ

5120bit

1008GB/s

แบนด์วิดท์

1681GB/s

การตั้งค่าการเรนเดอร์

-

132

จำนวน SM

132

16896

หน่วยการตีสี

16896

528

TMUs

528

24

ROPs

24

528

คอร์เทนเซอร์

528

-

256 KB (per SM)

แคช L1

256 KB (per SM)

50 MB

แคช L2

50 MB

-

ประสิทธิภาพทฤษฎี

47.52 GPixel/s

อัตราพิกเซล

44.09 GPixel/s

1045 GTexel/s

อัตราพื้นผิว

969.9 GTexel/s

267.6 TFLOPS

FP16 (ครึ่งหนึ่ง)

248.3 TFLOPS

66.91 TFLOPS

FP32 (ทศนิยม)

62.08 TFLOPS

33.45 TFLOPS

FP64 (ทศนิยมคู่)

31.04 TFLOPS

การออกแบบบอร์ด

700W

TDP

700W

1100 W

PSU ที่แนะนำ

1100 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

8-pin EPS

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

GH100

-

Hopper

สถาปัตยกรรม

Hopper

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

4 nm

800 ล้าน

ทรานซิสเตอร์

800 ล้าน

814 mm²

ขนาด Die

814 mm²

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

9.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 80 GB

2

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 SXM4 40 GB

3

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5 96 GB

4

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5 80 GB

5

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 PCIe 40 GB

6

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 SXM5

7

NVIDIA H100 SXM5 64 GB vs NVIDIA H800 SXM5

8

NVIDIA H100 SXM5 64 GB vs NVIDIA A100 PCIe

9

NVIDIA H100 SXM5 64 GB vs NVIDIA H100 PCIe

10

NVIDIA H100 SXM5 64 GB vs NVIDIA A800 SXM4 80 GB