Amazon cierra un acuerdo por valor de 38 000 millones de dólares para alojar los servidores de IA NVIDIA GB200/GB300 de OpenAI.

Amazon Web Services (AWS) y OpenAI han firmado un acuerdo de $ 38 mil millones que abarca varios años, siete para ser más precisos, para impulsar las operaciones de inteligencia artificial de OpenAI utilizando la configuración de nube de alta gama de AWS. Este acuerdo permite a OpenAI usar clústeres con cientos de miles de GPU NVIDIA GB200 y GB300, se espera que la capacidad completa planificada se despliegue para su uso a finales de 2026. Estas GPU se configuran en los UltraServers de Amazon EC2 vinculados por una red rápida y de alta capacidad diseñada para manejar tanto la inferencia como la capacitación de modelos a gran escala. La experiencia previa de AWS en la gestión de clústeres que superan los 500.000 chips ha sido un factor clave en la decisión de OpenAI.

• 

• 

• 

Se espera que la nueva infraestructura sirva a una variedad de aplicaciones OpenAI, desde cargas de trabajo de inferencia ChatGPT hasta la capacitación de modelos de base de próxima generación. El paso de OpenAI a AWS se produce después de una serie de asociaciones recientes con NVIDIA. AMD, Microsoft, Broadcom, y Oracle asegurándose de que pueden aprovechar una mezcla de chips de alta gama y sistemas en la nube. El CEO de OpenAI, Sam Altman, declaró que la compañía planea invertir $ 1.4 billones para construir 30 gigavatios de capacidad informática, equivalente al consumo de energía de aproximadamente 25 millones de hogares en los Estados Unidos. Hasta ahora, OpenAI se ha asociado con NVIDIA para 10 GW, AMD para 6 GW, y Oráculo para 4.5 GW de capacidad de computación, avanzando constantemente hacia su objetivo declarado de construir una red de infraestructura de inteligencia artificial de 30 GW.

  

Fuente: Amazon (AWS)