NVIDIA prepara el GB200 NVL4: cuatro GPU «Blackwell» y dos CPU «Grace» en un servidor de 5.400 W

En SC24, NVIDIA anunció sus últimos aceleradores de IA de alta densidad computacional en forma de GB200 NVL4, una solución de servidor único que amplía la cartera de productos de la serie «Blackwell» de la compañía. La nueva plataforma presenta una impresionante combinación de cuatro GPU «Blackwell» y dos CPU «Grace» en una única placa. El GB200 NVL4 cuenta con unas especificaciones extraordinarias para un sistema monoservidor, lo que incluye 768 GB de memoria HBM3E en sus cuatro GPU Blackwell, que proporcionan un ancho de banda de memoria combinado de 32 TB/s. Las dos CPU Grace del sistema disponen de 960 GB de memoria LPDDR5X, lo que lo convierte en un centro neurálgico para las exigentes cargas de trabajo de IA. Una característica clave del diseño de NVL4 es su tecnología de interconexión NVLink, que permite la comunicación entre todos los procesadores de la placa. Esta integración es importante para mantener un rendimiento óptimo en las múltiples unidades de procesamiento del sistema, especialmente durante las grandes ejecuciones de entrenamiento o la inferencia de un modelo con varios billones de parámetros.

Las comparaciones de rendimiento con generaciones anteriores muestran mejoras significativas. NVIDIA afirma que las GPU GB200 proporcionan 2,2 veces más rendimiento general y 1,8 veces más capacidad de entrenamiento en comparación con su predecesora, la GH200 NVL4. El consumo de energía del sistema alcanza los 5400 vatios, lo que supone el doble de los 2700 vatios que necesita el modelo GB200 NVL2, su hermano pequeño que incorpora dos GPU en lugar de cuatro. NVIDIA está colaborando estrechamente con sus socios fabricantes para sacar al mercado diversas soluciones Blackwell, entre las que se incluyen DGX B200, GB200 Grace Blackwell Superchip, GB200 Grace Blackwell NVL2, GB200 Grace Blackwell NVL4 y GB200 Grace Blackwell NVL72. Instalar 5.400 W de TDP en un solo servidor requerirá refrigeración líquida para obtener un rendimiento óptimo, y se espera que el GB200 NVL4 vaya dentro de bastidores de servidores para clientes de hiperescaladores, que suelen contar con sistemas de refrigeración líquida personalizados dentro de sus centros de datos.

 

  Fuentes: HardwareLuxx,vía VideoCardz