NVIDIA H100 CNX vs NVIDIA A100 SXM4 40 GB

VS

NVIDIA H100 CNX

NVIDIA A100 SXM4 40 GB

AI GPUAI GPU 私たちは2つの向けのGPU：80GBのメモリを搭載した H100 CNX と 40GBのメモリを搭載した A100 SXM4 40 GB を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 CNX の利点

リリースが2年と 10 ヶ月遅れました

最大ブーストクロックは 31% 向上しました (1845MHz と 1410MHz)

より大きな VRAM (80GB vs 40GB)

より大きなメモリ帯域幅 (2039GB/s vs 1555GB/s)

追加されたレンダリングコア数は 7680個です

より低いTDP電力 (350W と 400W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 CNX +176%

53.84 TFLOPS

A100 SXM4 40 GB

19.49 TFLOPS

H100 CNX

VS

A100 SXM4 40 GB

グラフィックスカード

2023年3月

リリース日

2020年5月

Tesla Hopper

世代

Tesla Ampere

AI GPU

タイプ

AI GPU

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

690 MHz

ベースクロック

1095 MHz

1845 MHz

ブーストクロック

1410 MHz

1593 MHz

メモリクロック

1215 MHz

メモリ

80GB

メモリサイズ

40GB

HBM2e

メモリタイプ

HBM2e

5120bit

メモリバス

5120bit

2039GB/s

帯域幅

1555GB/s

レンダリング設定

-

114

SM数

108

14592

シェーディングユニット

6912

456

TMU

432

24

ROP

160

456

テンソルコア

432

-

256 KB (per SM)

L1キャッシュ

192 KB (per SM)

50 MB

L2キャッシュ

40 MB

-

理論的な性能

44.28 GPixel/s

ピクセルレート

225.6 GPixel/s

841.3 GTexel/s

テクスチャレート

609.1 GTexel/s

215.4 TFLOPS

FP16 (半精度)

77.97 TFLOPS

53.84 TFLOPS

FP32 (単精度)

19.49 TFLOPS

26.92 TFLOPS

FP64 (倍精度)

9.746 TFLOPS

ボード設計

350W

TDP

400W

750 W

推奨PSU

800 W

No outputs

出力

No outputs

8-pin EPS

電源コネクタ

None

グラフィックスプロセッサ

GH100

GPU名

GA100

-

Hopper

アーキテクチャ

Ampere

TSMC

ファウンドリ

TSMC

4 nm

プロセスサイズ

7 nm

800 億

トランジスタ

542 億

814 mm²

ダイサイズ

826 mm²

グラフィックス機能

N/A

DirectX

N/A

OpenGL

N/A

3.0

OpenCL

3.0

N/A

Vulkan

N/A

9.0

CUDA

8.0

N/A

シェーダモデル

N/A