NVIDIA Blackwell, un punto de referencia en las fábricas de IA; según Dell Technologies

Hace más de un siglo, Henry Ford fue pionero en la producción masiva de coches y motores para proporcionar transporte a un precio asequible. Hoy, la industria tecnológica fabrica los motores de un nuevo tipo de fábricas: las que producen inteligencia. A medida que las empresas y los países se centran cada vez más en la IA y pasan de la experimentación a la aplicación, la demanda de tecnologías de IA sigue creciendo exponencialmente. Los principales fabricantes de sistemas se apresuran a aumentar la producción de servidores para las fábricas de IA -los motores de las fábricas de IA- para satisfacer la creciente demanda mundial de inteligencia y crecimiento. Dell Technologies es líder en este renacimiento. Dell y NVIDIA llevan décadas colaborando y siguen impulsando el ritmo de la innovación. En su última llamada de ganancias, Dell proyectó que su negocio de servidores de IA crecerá al menos 15 mil millones de dólares este año.

«Estamos en una misión para llevar la IA a millones de clientes en todo el mundo», dijo Michael Dell, presidente y director ejecutivo de Dell Technologies, en un anuncio reciente en Dell Technologies World. «Con Dell AI Factory con NVIDIA, las empresas pueden gestionar todo el ciclo de vida de la IA a través de casos de uso, desde la formación hasta la implementación, a cualquier escala.» Los últimos servidores de IA de Dell, impulsados por NVIDIA Blackwell, ofrecen hasta 50 veces más resultados de inferencia de razonamiento de IA y una mejora de 5 veces en el rendimiento en comparación con la plataforma Hopper. Los clientes los utilizan para generar tokens para nuevas aplicaciones de IA que ayudarán a resolver algunos de los mayores retos del mundo, desde la prevención de enfermedades hasta la fabricación avanzada.

Los servidores Dell con NVIDIA GB200 se están distribuyendo a gran escala para diversos clientes, como el nuevo sistema NVIDIA GB200 NVL72 de CoreWeave. Una de las fábricas de Dell en EE.UU. puede enviar miles de GPU NVIDIA Blackwell a los clientes en una semana. Por eso fueron elegidos por uno de sus mayores clientes para implantar 100.000 GPU NVIDIA en sólo seis semanas. Pero, ¿cómo se fabrica un servidor de IA? Visitamos unas instalaciones para averiguarlo.

Construyendo los motores de la inteligencia

Visitamos una de las instalaciones de Dell en EE.UU. que construye los servidores NVIDIA Blackwell de mayor densidad computacional jamás fabricados. Los motores de los automóviles modernos tienen más de 200 componentes principales y tardan entre tres y siete años en salir al mercado. Los servidores NVIDIA GB200 NVL72 tienen 1,2 millones de piezas y se diseñaron hace apenas un año.

En medio de un bosque de bastidores, agrupados por fases de montaje, los empleados de Dell introducen rápidamente las bandejas GB200, las bandejas de red NVLink Switch y, a continuación, prueban los sistemas. La empresa afirma que su capacidad para diseñar el conjunto de computación, red y almacenamiento bajo un mismo techo y afinar, desplegar e integrar sistemas completos es un potente diferenciador. La velocidad también es importante. El equipo de Dell puede construir, probar, enviar y volver a probar in situ en las instalaciones del cliente, y entregar un bastidor en 24 horas.

Los servidores se destinan a centros de datos de última generación que requieren una cantidad vertiginosa de cables, tuberías y mangueras para funcionar. Un centro de datos puede tener 27.000 millas de cable de red, suficiente para dar la vuelta a la Tierra. Puede contener unos diez kilómetros de tuberías de agua, 77 kilómetros de mangueras de goma y es capaz de hacer circular 100.000 galones de agua por minuto para la refrigeración.

Con el anuncio de nuevas fábricas de inteligencia artificial cada semana -la Unión Europea tiene planes para siete fábricas de inteligencia artificial, mientras que India, Japón, Arabia Saudí, los Emiratos Árabes Unidos y Noruega también las están desarrollando-, la demanda de estos motores de inteligencia no hará sino crecer en los próximos meses y años.

Fuente: Blog de NVIDIA