NVIDIA A100 SXM4 40 GB vs NVIDIA H100 SXM5

VS

NVIDIA A100 SXM4 40 GB

NVIDIA H100 SXM5

AI GPUAI GPU 私たちは2つの向けのGPU：40GBのメモリを搭載した A100 SXM4 40 GB と 80GBのメモリを搭載した H100 SXM5 を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA A100 SXM4 40 GB の利点

より低いTDP電力 (400W と 700W)

NVIDIA H100 SXM5 の利点

リリースが1年と 10 ヶ月遅れました

最大ブーストクロックは 40% 向上しました (1980MHz と 1410MHz)

より大きな VRAM (80GB vs 40GB)

より大きなメモリ帯域幅 (3350GB/s vs 1555GB/s)

追加されたレンダリングコア数は 9984個です

スコア

ベンチマーク

FP32 (浮動小数点)

A100 SXM4 40 GB

19.49 TFLOPS

H100 SXM5 +243%

66.91 TFLOPS

A100 SXM4 40 GB

VS

H100 SXM5

グラフィックスカード

2020年5月

リリース日

2022年3月

Tesla Ampere

世代

Tesla Hopper

AI GPU

タイプ

AI GPU

PCIe 4.0 x16

バスインターフェース

PCIe 5.0 x16

クロック速度

1095 MHz

ベースクロック

1590 MHz

1410 MHz

ブーストクロック

1980 MHz

1215 MHz

メモリクロック

1313 MHz

メモリ

40GB

メモリサイズ

80GB

HBM2e

メモリタイプ

HBM3

5120bit

メモリバス

5120bit

1555GB/s

帯域幅

3350GB/s

レンダリング設定

-

108

SM数

132

6912

シェーディングユニット

16896

432

TMU

528

160

ROP

24

432

テンソルコア

528

-

192 KB (per SM)

L1キャッシュ

256 KB (per SM)

40 MB

L2キャッシュ

50 MB

-

理論的な性能

225.6 GPixel/s

ピクセルレート

47.52 GPixel/s

609.1 GTexel/s

テクスチャレート

1045 GTexel/s

77.97 TFLOPS

FP16 (半精度)

267.6 TFLOPS

19.49 TFLOPS

FP32 (単精度)

66.91 TFLOPS

9.746 TFLOPS

FP64 (倍精度)

33.45 TFLOPS

ボード設計

400W

TDP

700W

800 W

推奨PSU

1100 W

No outputs

出力

No outputs

None

電源コネクタ

8-pin EPS

グラフィックスプロセッサ

GA100

GPU名

GH100

-

Ampere

アーキテクチャ

Hopper

TSMC

ファウンドリ

TSMC

7 nm

プロセスサイズ

4 nm

542 億

トランジスタ

800 億

826 mm²

ダイサイズ

814 mm²

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

8.0

CUDA

9.0

N/A

シェーダモデル

N/A