NVIDIA H100 PCIe 96 GB vs NVIDIA RTX A5000

VS

NVIDIA H100 PCIe 96 GB

NVIDIA RTX A5000

AI GPU 私たちは向けの96GBのメモリを搭載した H100 PCIe 96 GB とプロフェッショナル市場向けの24GBのメモリを搭載した RTX A5000 を比較しました。両方のグラフィックスカードの主な仕様、ベンチマークテスト、消費電力などの情報を確認できます。

主要な違い

NVIDIA H100 PCIe 96 GB の利点

リリースが1年と 11 ヶ月遅れました

最大ブーストクロックは 8% 向上しました (1837MHz と 1695MHz)

より大きな VRAM (96GB vs 24GB)

より大きなメモリ帯域幅 (1681GB/s vs 768.0GB/s)

追加されたレンダリングコア数は 8704個です

NVIDIA RTX A5000 の利点

より低いTDP電力 (230W と 700W)

スコア

ベンチマーク

FP32 (浮動小数点)

H100 PCIe 96 GB +123%

62.08 TFLOPS

RTX A5000

27.77 TFLOPS

H100 PCIe 96 GB

VS

RTX A5000

グラフィックスカード

2023年3月

リリース日

2021年4月

Tesla Hopper

世代

Quadro Ampere

AI GPU

タイプ

プロフェッショナル

PCIe 5.0 x16

バスインターフェース

PCIe 4.0 x16

クロック速度

1665 MHz

ベースクロック

1170 MHz

1837 MHz

ブーストクロック

1695 MHz

1313 MHz

メモリクロック

2000 MHz

メモリ

96GB

メモリサイズ

24GB

HBM3

メモリタイプ

GDDR6

5120bit

メモリバス

384bit

1681GB/s

帯域幅

768.0GB/s

レンダリング設定

-

132

SM数

64

16896

シェーディングユニット

8192

528

TMU

256

24

ROP

96

528

テンソルコア

256

-

RTコア

64

256 KB (per SM)

L1キャッシュ

128 KB (per SM)

50 MB

L2キャッシュ

6 MB

-

理論的な性能

44.09 GPixel/s

ピクセルレート

162.7 GPixel/s

969.9 GTexel/s

テクスチャレート

433.9 GTexel/s

248.3 TFLOPS

FP16 (半精度)

27.77 TFLOPS

62.08 TFLOPS

FP32 (単精度)

27.77 TFLOPS

31.04 TFLOPS

FP64 (倍精度)

433.9 GFLOPS

ボード設計

700W

TDP

230W

1100 W

推奨PSU

550 W

No outputs

出力

4x DisplayPort 1.4a

8-pin EPS

電源コネクタ

1x 8-pin

グラフィックスプロセッサ

GH100

GPU名

GA102

-

Hopper

アーキテクチャ

Ampere

TSMC

ファウンドリ

Samsung

4 nm

プロセスサイズ

8 nm

800 億

トランジスタ

283 億

814 mm²

ダイサイズ

628 mm²

グラフィックス機能

N/A

DirectX

12 Ultimate (12_2)

N/A

OpenGL

4.6

3.0

OpenCL

3.0

N/A

Vulkan

1.3

9.0

CUDA

8.6

N/A

シェーダモデル

6.7

NVIDIA H100 PCIe 96 GB vs NVIDIA RTX A5000

主要な違い

スコア

ベンチマーク

グラフィックスカード

クロック速度

メモリ

レンダリング設定

理論的な性能

ボード設計

グラフィックスプロセッサ

グラフィックス機能

関連GPU比較

関連ニュース