NVIDIA A100 SXM4 80 GB vs NVIDIA H100 SXM5 96 GB

VS

NVIDIA A100 SXM4 80 GB

NVIDIA H100 SXM5 96 GB

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 80GB VRAM A100 SXM4 80 GB และ 96GB VRAM H100 SXM5 96 GB เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA A100 SXM4 80 GB ประโยชน์ของ

ประสิทธิภาพ VRAM สูงกว่า (2039GB/s vs 1681GB/s)

TDP ต่ำกว่า (400W vs 700W)

NVIDIA H100 SXM5 96 GB ประโยชน์ของ

เผยแพร่ล่าช้า 2 ปี และ 4 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 30% (1837MHz vs 1410MHz)

VRAM เพิ่มเติม (96GB vs 80GB)

9984 เส้นทางการเรนเดอร์เพิ่มเติม

คะแนน

มาตรฐาน

FP32 (float)

A100 SXM4 80 GB

19.49 TFLOPS

H100 SXM5 96 GB +218%

62.08 TFLOPS

A100 SXM4 80 GB

VS

H100 SXM5 96 GB

การ์ดกราฟิก

พ.ย. 2563

วันที่เปิดตัว

มี.ค. 2566

Tesla Ampere

รุ่น

Tesla Hopper

AI GPU

ชนิด

AI GPU

PCIe 4.0 x16

อินเตอร์เฟซบัส

PCIe 5.0 x16

ความเร็วนาฬิกา

1275 MHz

นาฬิกาฐาน

1665 MHz

1410 MHz

นาฬิกาเพิ่มพูน

1837 MHz

1593 MHz

นาฬิกาหน่วยความจำ

1313 MHz

หน่วยความจำ

80GB

ขนาดหน่วยความจำ

96GB

HBM2e

ประเภทหน่วยความจำ

HBM3

5120bit

บัสหน่วยความจำ

5120bit

2039GB/s

แบนด์วิดท์

1681GB/s

การตั้งค่าการเรนเดอร์

-

108

จำนวน SM

132

6912

หน่วยการตีสี

16896

432

TMUs

528

160

ROPs

24

432

คอร์เทนเซอร์

528

-

192 KB (per SM)

แคช L1

256 KB (per SM)

40 MB

แคช L2

50 MB

-

ประสิทธิภาพทฤษฎี

225.6 GPixel/s

อัตราพิกเซล

44.09 GPixel/s

609.1 GTexel/s

อัตราพื้นผิว

969.9 GTexel/s

77.97 TFLOPS

FP16 (ครึ่งหนึ่ง)

248.3 TFLOPS

19.49 TFLOPS

FP32 (ทศนิยม)

62.08 TFLOPS

9.746 TFLOPS

FP64 (ทศนิยมคู่)

31.04 TFLOPS

การออกแบบบอร์ด

400W

TDP

700W

800 W

PSU ที่แนะนำ

1100 W

No outputs

ออก

No outputs

None

ตัวเชื่อมต่อไฟฟ้า

8-pin EPS

ตัวประมวลผลกราฟิก

GA100

ชื่อ GPU

GH100

-

Ampere

สถาปัตยกรรม

Hopper

TSMC

โรงหล่อ

TSMC

7 nm

ขนาดกระบวนการ

4 nm

542 ล้าน

ทรานซิสเตอร์

800 ล้าน

826 mm²

ขนาด Die

814 mm²

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 PCIe 96 GB

2

NVIDIA A100 SXM4 80 GB vs H200 SXM

3

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 CNX

4

NVIDIA A100 SXM4 80 GB vs NVIDIA H800 SXM5

5

NVIDIA A100 SXM4 80 GB vs NVIDIA A100 SXM4 40 GB

6

NVIDIA A100 SXM4 80 GB vs NVIDIA A800 PCIe 80 GB

7

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 SXM5 64 GB

8

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 SXM5 80 GB

9

NVIDIA A100 SXM4 80 GB vs NVIDIA H100 PCIe

10

NVIDIA A100 SXM4 80 GB vs NVIDIA H800 PCIe 80 GB