NVIDIA A100 PCIe vs NVIDIA H100 CNX

VS

NVIDIA A100 PCIe

NVIDIA H100 CNX

AI GPUAI GPU เราเปรียบเทียบ การ์ดกราฟิกสองแบบ 40GB VRAM A100 PCIe และ 80GB VRAM H100 CNX เพื่อดูว่าการ์ดกราฟิกไหนมีประสิทธิภาพที่ดีกว่าในข้อมูลสเปคต่างๆ การทดสอบเบนช์มาร์ก การใช้พลังงาน ฯลฯ

ความแตกต่างหลัก

NVIDIA A100 PCIe ประโยชน์ของ

TDP ต่ำกว่า (250W vs 350W)

NVIDIA H100 CNX ประโยชน์ของ

เผยแพร่ล่าช้า 2 ปี และ 9 เดือน หลังจากกำหนดเวลา

นาฬิกาเพิ่มพูน เพิ่มขึ้น 31% (1845MHz vs 1410MHz)

VRAM เพิ่มเติม (80GB vs 40GB)

ประสิทธิภาพ VRAM สูงกว่า (2039GB/s vs 1555GB/s)

7680 เส้นทางการเรนเดอร์เพิ่มเติม

คะแนน

มาตรฐาน

FP32 (float)

A100 PCIe

19.49 TFLOPS

H100 CNX +176%

53.84 TFLOPS

A100 PCIe

VS

H100 CNX

การ์ดกราฟิก

มิ.ย. 2563

วันที่เปิดตัว

มี.ค. 2566

Tesla

รุ่น

Tesla Hopper

AI GPU

ชนิด

AI GPU

PCIe 4.0 x16

อินเตอร์เฟซบัส

PCIe 5.0 x16

ความเร็วนาฬิกา

765 MHz

นาฬิกาฐาน

690 MHz

1410 MHz

นาฬิกาเพิ่มพูน

1845 MHz

1215 MHz

นาฬิกาหน่วยความจำ

1593 MHz

หน่วยความจำ

40GB

ขนาดหน่วยความจำ

80GB

HBM2e

ประเภทหน่วยความจำ

HBM2e

5120bit

บัสหน่วยความจำ

5120bit

1555GB/s

แบนด์วิดท์

2039GB/s

การตั้งค่าการเรนเดอร์

-

108

จำนวน SM

114

6912

หน่วยการตีสี

14592

432

TMUs

456

160

ROPs

24

432

คอร์เทนเซอร์

456

-

192 KB (per SM)

แคช L1

256 KB (per SM)

40 MB

แคช L2

50 MB

-

ประสิทธิภาพทฤษฎี

225.6 GPixel/s

อัตราพิกเซล

44.28 GPixel/s

609.1 GTexel/s

อัตราพื้นผิว

841.3 GTexel/s

77.97 TFLOPS

FP16 (ครึ่งหนึ่ง)

215.4 TFLOPS

19.49 TFLOPS

FP32 (ทศนิยม)

53.84 TFLOPS

9.746 TFLOPS

FP64 (ทศนิยมคู่)

26.92 TFLOPS

การออกแบบบอร์ด

250W

TDP

350W

600 W

PSU ที่แนะนำ

750 W

No outputs

ออก

No outputs

8-pin EPS

ตัวเชื่อมต่อไฟฟ้า

8-pin EPS

ตัวประมวลผลกราฟิก

GA100

ชื่อ GPU

GH100

-

Ampere

สถาปัตยกรรม

Hopper

TSMC

โรงหล่อ

TSMC

7 nm

ขนาดกระบวนการ

4 nm

542 ล้าน

ทรานซิสเตอร์

800 ล้าน

826 mm²

ขนาด Die

814 mm²

คุณสมบัติกราฟิก

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

โมเดลเฉด

N/A

เปรียบเทียบ GPU ที่เกี่ยวข้อง

1

NVIDIA A100 PCIe vs NVIDIA H800 SXM5

2

NVIDIA A100 PCIe vs NVIDIA H100 SXM5

3

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 64 GB

4

NVIDIA A100 PCIe vs H200 SXM

5

NVIDIA A100 PCIe vs NVIDIA H100 CNX

6

NVIDIA A100 PCIe vs NVIDIA H100 PCIe 80 GB

7

NVIDIA A100 PCIe vs NVIDIA A800 PCIe 40 GB

8

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 80 GB

9

NVIDIA A100 PCIe vs NVIDIA A100 SXM4 40 GB

10

NVIDIA A100 PCIe vs NVIDIA H100 SXM5 80 GB