NVIDIA H100 SXM5 80 GB vs NVIDIA A100 PCIe

VS

NVIDIA H100 SXM5 80 GB

NVIDIA A100 PCIe

AI GPUAI GPU 私たちは2つの向けのGPU：80GBのメモリを搭載した H100 SXM5 80 GB と 40GBのメモリを搭載した A100 PCIe を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 SXM5 80 GB の利点

リリースが2年と 9 ヶ月遅れました

最大ブーストクロックは 40% 向上しました (1980MHz と 1410MHz)

より大きな VRAM (80GB vs 40GB)

より大きなメモリ帯域幅 (1681GB/s vs 1555GB/s)

追加されたレンダリングコア数は 9984個です

NVIDIA A100 PCIe の利点

より低いTDP電力 (250W と 700W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 SXM5 80 GB +243%

66.91 TFLOPS

A100 PCIe

19.49 TFLOPS

H100 SXM5 80 GB

VS

A100 PCIe

グラフィックスカード

2023年3月

リリース日

2020年6月

Tesla Hopper

世代

Tesla

AI GPU

タイプ

AI GPU

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

1590 MHz

ベースクロック

765 MHz

1980 MHz

ブーストクロック

1410 MHz

1313 MHz

メモリクロック

1215 MHz

メモリ

80GB

メモリサイズ

40GB

HBM3

メモリタイプ

HBM2e

5120bit

メモリバス

5120bit

1681GB/s

帯域幅

1555GB/s

レンダリング設定

-

132

SM数

108

16896

シェーディングユニット

6912

528

TMU

432

24

ROP

160

528

テンソルコア

432

-

256 KB (per SM)

L1キャッシュ

192 KB (per SM)

50 MB

L2キャッシュ

40 MB

-

理論的な性能

47.52 GPixel/s

ピクセルレート

225.6 GPixel/s

1045 GTexel/s

テクスチャレート

609.1 GTexel/s

267.6 TFLOPS

FP16 (半精度)

77.97 TFLOPS

66.91 TFLOPS

FP32 (単精度)

19.49 TFLOPS

33.45 TFLOPS

FP64 (倍精度)

9.746 TFLOPS

ボード設計

700W

TDP

250W

1100 W

推奨PSU

600 W

No outputs

出力

No outputs

8-pin EPS

電源コネクタ

8-pin EPS

グラフィックスプロセッサ

GH100

GPU名

GA100

-

Hopper

アーキテクチャ

Ampere

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

7 nm

800 億

トランジスタ

542 億

814 mm²

ダイサイズ

826 mm²

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

シェーダモデル

N/A