NVIDIA A100 PCIe vs NVIDIA H100 PCIe 96 GB

VS

NVIDIA A100 PCIe

NVIDIA H100 PCIe 96 GB

AI GPUAI GPU 私たちは2つの向けのGPU：40GBのメモリを搭載した A100 PCIe と 96GBのメモリを搭載した H100 PCIe 96 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA A100 PCIe の利点

より低いTDP電力 (250W と 700W)

NVIDIA H100 PCIe 96 GB の利点

リリースが2年と 9 ヶ月遅れました

最大ブーストクロックは 30% 向上しました (1837MHz と 1410MHz)

より大きな VRAM (96GB vs 40GB)

より大きなメモリ帯域幅 (1681GB/s vs 1555GB/s)

追加されたレンダリングコア数は 9984個です

スコア

ベンチマーク

FP32 (浮動小数点)

A100 PCIe

19.49 TFLOPS

H100 PCIe 96 GB +218%

62.08 TFLOPS

A100 PCIe

VS

H100 PCIe 96 GB

グラフィックスカード

2020年6月

リリース日

2023年3月

Tesla

世代

Tesla Hopper

AI GPU

タイプ

AI GPU

PCIe 4.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

765 MHz

ベースクロック

1665 MHz

1410 MHz

ブーストクロック

1837 MHz

1215 MHz

メモリクロック

1313 MHz

メモリ

40GB

メモリサイズ

96GB

HBM2e

メモリタイプ

HBM3

5120bit

メモリバス

5120bit

1555GB/s

帯域幅

1681GB/s

レンダリング設定

-

108

SM数

132

6912

シェーディングユニット

16896

432

TMU

528

160

ROP

24

432

テンソルコア

528

-

192 KB (per SM)

L1キャッシュ

256 KB (per SM)

40 MB

L2キャッシュ

50 MB

-

理論的な性能

225.6 GPixel/s

ピクセルレート

44.09 GPixel/s

609.1 GTexel/s

テクスチャレート

969.9 GTexel/s

77.97 TFLOPS

FP16 (半精度)

248.3 TFLOPS

19.49 TFLOPS

FP32 (単精度)

62.08 TFLOPS

9.746 TFLOPS

FP64 (倍精度)

31.04 TFLOPS

ボード設計

250W

TDP

700W

600 W

推奨PSU

1100 W

No outputs

出力

No outputs

8-pin EPS

電源コネクタ

8-pin EPS

グラフィックスプロセッサ

GA100

GPU名

GH100

-

Ampere

アーキテクチャ

Hopper

TSMC

ファウンドリ

TSMC

7 nm

プロセスサイズ

4 nm

542 億

トランジスタ

800 億

826 mm²

ダイサイズ

814 mm²

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

シェーダモデル

N/A