Les GPU NVIDIA Blackwell sont renommés pour leur robustesse, mais quelle est leur réelle puissance ? Nous allons au-delà des données promotionnelles pour explorer les résultats concrets des tests MLCommons MLPerf v4.1, la plateforme de référence pour l'évaluation des performances de formation et d'inférence en intelligence artificielle.

La comparaison s'effectue entre deux générations de serveurs : le HGX B200 et le HGX H200. Le premier type de serveur peut accueillir jusqu'à huit GPU Blackwell B200, chacun consommant jusqu'à 1000 watts.

Les benchmarks de pré-entraînement du modèle GPT-3 montrent que les GPU Blackwell ont doublé leurs performances par rapport à la précédente génération de GPU Hopper.

Dans les tâches d'affinage du modèle Llama 2 avec ses 70 milliards de paramètres, les performances du Blackwell sont améliorées jusqu'à 2,2 fois.

La plateforme Blackwell s'accompagne des SuperNIC ConnectX-7, des commutateurs InfiniBand Quantum-2 et d'un bus d'interconnexion NVLink de cinquième génération. Ces caractéristiques garantissent une communication robuste entre nœuds, ce qui permet une répartition équilibrée des charges de formation en intelligence artificielle et améliore l'efficacité générale.

Par exemple, pour atteindre les mêmes performances avec les 175 milliards de paramètres du modèle GPT-3, il faut 256 GPU de génération Hopper tandis que la génération Blackwell atteint cet objectif avec seulement 64 GPU.