NVIDIA H100 SXM5 vs NVIDIA A100 SXM4 40 GB

VS

NVIDIA H100 SXM5

NVIDIA A100 SXM4 40 GB

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 80GB VRAM H100 SXM5 และ 40GB VRAM A100 SXM4 40 GB เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA H100 SXM5 ประโยชน์ของ

เผยแพร่ล่าช้า 1 ปี และ 10 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 40% (1980MHz vs 1410MHz)

VRAM เพิ่มเติม (80GB vs 40GB)

ประสิทธิภาพ VRAM สูงกว่า (3350GB/s vs 1555GB/s)

9984 เส้นทางการเรนเดอร์เพิ่มเติม

NVIDIA A100 SXM4 40 GB ประโยชน์ของ

TDP ต่ำกว่า (400W vs 700W)

คะแนน

มาตรฐาน

FP32 (float)

H100 SXM5 +243%

66.91 TFLOPS

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5

VS

A100 SXM4 40 GB

การ์ดกราฟิก

มี.ค. 2565

วันที่เปิดตัว

พ.ค. 2563

Tesla Hopper

รุ่น

Tesla Ampere

AI GPU

ชนิด

AI GPU

PCIe 5.0 x16

อินเตอร์เฟซบัส

PCIe 4.0 x16

ความเร็วนาฬิกา

1590 MHz

นาฬิกาฐาน

1095 MHz

1980 MHz

นาฬิกาเพิ่มพูน

1410 MHz

1313 MHz

นาฬิกาหน่วยความจำ

1215 MHz

หน่วยความจำ

80GB

ขนาดหน่วยความจำ

40GB

HBM3

ประเภทหน่วยความจำ

HBM2e

5120bit

บัสหน่วยความจำ

5120bit

3350GB/s

แบนด์วิดท์

1555GB/s

การตั้งค่าการเรนเดอร์

-

132

จำนวน SM

108

16896

หน่วยการตีสี

6912

528

TMUs

432

24

ROPs

160

528

คอร์เทนเซอร์

432

-

256 KB (per SM)

แคช L1

192 KB (per SM)

50 MB

แคช L2

40 MB

-

ประสิทธิภาพทฤษฎี

47.52 GPixel/s

อัตราพิกเซล

225.6 GPixel/s

1045 GTexel/s

อัตราพื้นผิว

609.1 GTexel/s

267.6 TFLOPS

FP16 (ครึ่งหนึ่ง)

77.97 TFLOPS

66.91 TFLOPS

FP32 (ทศนิยม)

19.49 TFLOPS

33.45 TFLOPS

FP64 (ทศนิยมคู่)

9.746 TFLOPS

การออกแบบบอร์ด

700W

TDP

400W

1100 W

PSU ที่แนะนำ

800 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

None

ตัวประมวลผลกราฟิก

GH100

ชื่อ GPU

GA100

-

Hopper

สถาปัตยกรรม

Ampere

TSMC

โรงหล่อ

TSMC

4 nm

ขนาดกระบวนการ

7 nm

800 ล้าน

ทรานซิสเตอร์

542 ล้าน

814 mm²

ขนาด Die

826 mm²

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA H100 SXM5 vs NVIDIA A800 PCIe 80 GB

2

NVIDIA H100 SXM5 vs H200 SXM

3

NVIDIA H100 SXM5 vs NVIDIA H800 PCIe 80 GB

4

NVIDIA H100 SXM5 vs NVIDIA A100 SXM4 40 GB

5

NVIDIA H100 SXM5 vs NVIDIA H100 PCIe 80 GB

6

NVIDIA H100 SXM5 vs NVIDIA H800 SXM5

7

NVIDIA H100 SXM5 vs NVIDIA A100 PCIe

8

NVIDIA H100 SXM5 vs NVIDIA H100 SXM5 96 GB

9

NVIDIA H100 SXM5 vs NVIDIA A800 PCIe 40 GB

10

NVIDIA H100 SXM5 vs NVIDIA H100 PCIe