Meta firma un acuerdo con AWS para implementar la IA de Agentic en los chips Graviton de AWS

Meta ha firmado un acuerdo para implementar procesadores AWS Graviton a escala. El acuerdo marca una expansión significativa de una asociación de larga data entre las dos compañías a medida que Meta construye su próxima generación de IA.

La implementación comienza con decenas de millones de núcleos de Graviton, con la flexibilidad de expandirse a medida que crecen las capacidades de inteligencia artificial de Meta. El acuerdo refleja un cambio en la forma en que se construye la infraestructura de IA: mientras que las GPU siguen siendo esenciales para entrenar modelos grandes, el aumento de la IA actónica está creando una demanda masiva de cargas de trabajo intensivas en CPU: razonamiento en tiempo real, generación de código, búsqueda y orquestación de tareas de varios pasos. Graviton5 está especialmente diseñado para estas cargas de trabajo, lo que le da a Meta la potencia de procesamiento para ejecutarlas de manera eficiente a escala.

Los chips impulsarán varias cargas de trabajo en Meta, incluido el apoyo a los esfuerzos de inteligencia artificial de la compañía. Ese trabajo requiere una infraestructura que pueda manejar miles de millones de interacciones mientras se coordinan flujos de trabajo complejos de agentes de múltiples pasos, exactamente para el que está diseñado el tipo de trabajo intensivo de CPU para el que está diseñado Graviton.

Los chips de AWS Graviton alimentan las cargas de trabajo de la IA

A medida que las organizaciones adoptan cada vez más la IA agente, sistemas autónomos que pueden razonar, planificar y completar tareas complejas, la demanda de infraestructura informática de alto rendimiento y eficiencia energética nunca ha sido mayor. Meta se está construyendo a la vanguardia de la IA agente, y su amplia implementación de Graviton refleja una realidad simple: las cargas de trabajo actónicas como la generación de código, el razonamiento en tiempo real y la capacitación de modelos de frontera son intensivas en CPU, y los chips especialmente diseñados son la forma más eficiente de alimentarlos.

El chip Graviton5 cuenta con 192 núcleos y una caché que es cinco veces más grande que la generación anterior, lo que reduce los retrasos en la rapidez con la que esos núcleos se comunican entre sí hasta en un 33%. Eso significa un procesamiento de datos más rápido con un mayor ancho de banda: requisitos clave para los sistemas de inteligencia artificial agentic que necesitan razonar continuamente y ejecutar tareas de varios pasos.

Graviton se basa en el sistema AWS Nitro, que utiliza hardware y software dedicados para ofrecer un alto rendimiento, alta disponibilidad y alta seguridad. El sistema Nitro permite instancias de metal desnudo para el acceso directo al hardware, al tiempo que proporciona los mismos dispositivos Elastic Network Adapter (ENA) y Amazon Elastic Block Store (Amazon EBS) que permiten a Meta ejecutar sus propias máquinas virtuales sin compromisos de rendimiento.

El rango de instancias de Graviton5 también es compatible con el Adaptador de Tejido Elástico (EFA), que permite una comunicación de baja latencia y alto ancho de banda entre instancias. Esto es esencial para las cargas de trabajo de IA agente de Meta, donde las tareas a gran escala deben distribuirse entre muchos procesadores que trabajan en coordinación.

Como cliente de AWS desde hace mucho tiempo, Meta ha confiado en la infraestructura de nube altamente escalable y segura de AWS para alimentar sus negocios globales.

"No se trata solo de chips; se trata de dar a los clientes la base de infraestructura, así como los servicios de datos e inferencia, para construir IA que entienda, anticipe y escale de manera eficiente a miles de millones de personas en todo el mundo", dijo Nafea Bshara, vicepresidenta e ingeniera distinguida de Amazon. "La asociación ampliada de Meta, que implementa decenas de millones de núcleos de Graviton, muestra lo que sucede cuando combina silicio especialmente diseñado con la pila completa de AWS AI para alimentar la próxima generación de IA agente".

"A medida que escalamos la infraestructura detrás de las ambiciones de inteligencia artificial de Meta, la diversificación de nuestras fuentes de computación es un imperativo estratégico. AWS ha sido un socio de confianza en la nube durante años, y la expansión a Graviton nos permite ejecutar las cargas de trabajo intensivas en CPU detrás de la inteligencia artificial agente con el rendimiento y la eficiencia que necesitamos a nuestra escala", dijo Santosh Janardhan, jefe de infraestructura de Meta.

Beneficios de eficiencia energética de Graviton

AWS Graviton5 se basa en la tecnología de chips de 3 nanómetros, un proceso de fabricación que produce procesadores más pequeños y eficientes. Debido a que AWS diseña sus chips desde cero y controla el proceso completo desde el diseño de chips hasta la arquitectura del servidor, puede optimizar el rendimiento y la eficiencia de maneras que los procesadores listos para usar no pueden igualar.

El resultado es una infraestructura que ofrece un rendimiento más sólido al tiempo que mantiene la eficiencia energética líder, ayudando a Meta a perseguir objetivos ambiciosos de inteligencia artificial mientras se mantiene en el camino con los objetivos de sostenibilidad. Graviton5 ofrece hasta un 25% mejor rendimiento que la generación anterior.

A medida que la demanda de computación de IA crece en toda la industria, la eficiencia de la infraestructura subyacente se vuelve cada vez más importante, tanto para la gestión de los costos como para la reducción del impacto ambiental.

El acuerdo señala un nuevo capítulo sobre cómo se construye la infraestructura de inteligencia artificial a gran escala, y cómo los chips construidos específicamente como Graviton pueden ayudar a compañías como Meta a ofrecer experiencias más inteligentes y personalizadas a miles de millones de personas en todo el mundo.

Fuente: Amazon AWS