NVIDIA H100 PCIe 80 GB vs NVIDIA A100 PCIe 80 GB

VS

NVIDIA H100 PCIe 80 GB

NVIDIA A100 PCIe 80 GB

AI GPU 私たちは向けの80GBのメモリを搭載した H100 PCIe 80 GB とプロフェッショナル市場向けの80GBのメモリを搭載した A100 PCIe 80 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 PCIe 80 GB の利点

リリースが1年と 9 ヶ月遅れました

最大ブーストクロックは 24% 向上しました (1755MHz と 1410MHz)

より大きなメモリ帯域幅 (2040GB/s vs 1.94TB/s)

追加されたレンダリングコア数は 7680個です

NVIDIA A100 PCIe 80 GB の利点

より低いTDP電力 (300W と 350W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 PCIe 80 GB +162%

51.22 TFLOPS

A100 PCIe 80 GB

19.49 TFLOPS

H100 PCIe 80 GB

VS

A100 PCIe 80 GB

グラフィックスカード

2023年3月

リリース日

2021年6月

Tesla Hopper

世代

Tesla Ampere(Axx)

AI GPU

タイプ

プロフェッショナル

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

1095 MHz

ベースクロック

1065 MHz

1755 MHz

ブーストクロック

1410 MHz

1593 MHz

メモリクロック

1512 MHz

メモリ

80GB

メモリサイズ

80GB

HBM2e

メモリタイプ

HBM2e

5120bit

メモリバス

5120bit

2040GB/s

帯域幅

1.94TB/s

レンダリング設定

-

114

SM数

108

14592

シェーディングユニット

6912

456

TMU

432

24

ROP

160

456

テンソルコア

432

-

256 KB (per SM)

L1キャッシュ

192 KB (per SM)

50 MB

L2キャッシュ

80 MB

-

理論的な性能

42.12 GPixel/s

ピクセルレート

225.6 GPixel/s

800.3 GTexel/s

テクスチャレート

609.1 GTexel/s

204.9 TFLOPS

FP16 (半精度)

77.97 TFLOPS

51.22 TFLOPS

FP32 (単精度)

19.49 TFLOPS

25.61 TFLOPS

FP64 (倍精度)

9.746 TFLOPS

ボード設計

350W

TDP

300W

750 W

推奨PSU

700 W

No outputs

出力

No outputs

1x 16-pin

電源コネクタ

8-pin EPS

グラフィックスプロセッサ

GH100

GPU名

GA100

-

Hopper

アーキテクチャ

Ampere

TSMC

ファウンドリ

TSMC

5 nm

プロセスサイズ

7 nm

800 億

トランジスタ

542 億

814 mm²

ダイサイズ

826 mm²

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

シェーダモデル

N/A