En la conferencia de desarrolladores Ignite, Microsoft presentó sus más recientes máquinas virtuales (VM) Azure HBv5, alimentadas por cuatro procesadores EPYC especialmente personalizados por AMD junto con memoria HBM3. La serie HBv de máquinas virtuales de Azure está diseñada para ofrecer un ancho de banda de memoria considerable, un factor crucial para la computación de alto rendimiento (HPC), que Microsoft identifica como el principal obstáculo en este ámbito. Anteriormente, Microsoft empleaba los procesadores Milan-X y Genoa-X de AMD, que incorporaban la tecnología 3D V-Cache para enfrentar los desafíos de ancho de banda. No obstante, con la introducción de las VM HBv5, Microsoft ha decidido claramente cambiar su orientación.
Según Tom's Hardware, una sola VM Azure HBv5 está equipada con 450 GB de RAM HBM3 y 352 núcleos Zen 4, cada uno operando a una velocidad de 4 GHz, lo que proporciona el doble de ancho de banda del bus de interconexión (IF) en comparación con un procesador EPYC estándar. Sin embargo, el multiproceso sincrónico (SMT) está deshabilitado. Además, cuenta con Nvidia Quantum-2 InfiniBand de 800 Gb/s para la conmutación de red. En su conjunto, los cuatro procesadores en una única máquina virtual HBv5 ofrecen hasta 6.9 TB/s de ancho de banda de memoria, cantidad que supera nueve veces la de una máquina virtual HBv4 equipada con CPUs Genoa-X y es 20 veces mayor que una máquina virtual HBv3 con CPUs Milan-X.
La memoria HBM3 utilizada en estos procesadores personalizados opera de manera similar a la V-Cache 3D, pero en lugar de funcionar como caché L3, actúa como una caché L4 masiva con una capacidad y un ancho de banda significativamente mayores. Aunque esto es ventajoso, no alcanza la misma latencia que una caché L3 directa como la V-Cache 3D. Sin embargo, para las cargas de trabajo destinadas a este producto, el ancho de banda es de suma importancia, relegando la latencia a una preocupación secundaria.
Cada una de las cuatro CPUs consta de un total de 352 núcleos, distribuidos como 88 núcleos por CPU. Es probable que cada CPU tenga en realidad 96 núcleos, con 8 de ellos reservados para la gestión de máquinas virtuales. Además, este procesador personalizado de Microsoft parece ser bastante similar al MI300C, que básicamente es la APU MI300A sin los gráficos CDNA 3, quedando solo el Zen 4 CCD. Ambas variantes son CPUs de 96 núcleos equipadas con RAM HBM3 y pueden alcanzar velocidades de hasta 3.7 GHz, paralelas a las CPUs implementadas en las VM HBv5.
