NVIDIA cancela el NVL36x2 de doble rack en favor del monstruo informático NVL72 de un solo rack

Al parecer, NVIDIA ha dejado de comercializar su modelo de GPU GB200 NVL36x2 de doble rack para centrarse en los modelos GB200 NVL72 y NVL36 de un solo rack. Este cambio, revelado por el analista del sector Ming-Chi Kuo, pretende simplificar la oferta de NVIDIA en los mercados de IA y HPC. En la decisión han influido grandes clientes como Microsoft, que prefieren la mayor eficiencia de espacio del modelo NVL72 y su potencial para mejorar el rendimiento de inferencia. Aunque ambos modelos tienen un rendimiento similar en el entrenamiento de grandes modelos lingüísticos (LLM) de IA, se espera que el NVL72 destaque en tareas de inferencia no paralelizables. Como recordatorio, el NVL72 cuenta con 36 CPU Grace, que proporcionan 2.592 núcleos Arm Neoverse V2 con 17 TB de memoria LPDDR5X con 18,4 TB/s de ancho de banda agregado. Además, incluye 72 GPU Blackwell GB200 SXM con 13,5 TB de HBM3e combinados, que funcionan con un ancho de banda agregado de 576 TB/s.

Sin embargo, este cambio presenta importantes retos. El consumo de energía del NVL72, de unos 120 kW, supera con creces las capacidades típicas de los centros de datos, lo que podría limitar su adopción generalizada inmediata. La retirada del NVL36x2 también ha suscitado dudas sobre la capacidad de ejecución de NVIDIA y puede alterar la cadena de suministro de soluciones de ensamblaje y refrigeración. A pesar de estos obstáculos, los expertos del sector consideran que se trata de un enfoque pragmático de la planificación de productos en el dinámico panorama de la IA. Aunque algunos clientes pueden sentirse decepcionados por la cancelación del modelo de doble rack, las perspectivas a largo plazo de NVIDIA en el mercado de la tecnología de IA siguen siendo sólidas. La compañía sigue trabajando con los clientes y escuchando sus necesidades, para posicionarse como líder en soluciones de computación de alto rendimiento.

Fuente: Ming-Chi Kuo