Oracle planea utilizar 30.000 GPUs AMD Instinct MI355X para la nube de IA

Los aceleradores Instinct MI355X de AMD para cargas de trabajo de IA están ganando tracción, y Oracle acaba de convertirse en uno de los mayores clientes. Según los últimos resultados financieros de Oracle, la compañía señaló que había adquirido 30.000 aceleradores AMD Instinct MI355X. En el tercer trimestre firmamos un contrato multimillonario con AMD para construir un clúster de 30.000 de sus últimas GPU MI355X», señaló Larry Ellison, quien añadió: “Y las cuatro principales empresas de seguridad en la nube, CrowdStrike, Cyber Reason, Newfold Digital y Palo Alto, han decidido trasladarse a Oracle Cloud”. Pero quizás lo más importante es que Oracle ha desarrollado un nuevo producto llamado plataforma de datos de IA que permite a nuestra enorme base instalada de clientes de bases de datos utilizar los últimos modelos de IA de OpenAI, XAI y Meta para analizar todos los datos que tienen almacenados en sus millones de bases de datos Oracle existentes. Al utilizar las capacidades vectoriales de la versión 23 de Oracle AI, los clientes pueden poner automáticamente todos sus datos existentes en el formato vectorial que entienden los modelos de IA. Esto permite que esos modelos de IA aprendan, comprendan y analicen todos los aspectos de su empresa o agencia gubernamental, desbloqueando instantáneamente el valor de sus datos al tiempo que los mantienen privados y seguros.»

El acelerador Instinct MI355X de AMD introduce la arquitectura CDNA4 en el nodo de proceso N3 de TSMC con especial atención a la aceleración de cargas de trabajo de IA. La GPU basada en chiplets proporciona 2,3 petaflops de cálculo FP16 y 4,6 petaflops de cálculo FP8, lo que supone un aumento del rendimiento del 77% con respecto a la serie MI300X. El principal avance del MI355X es la compatibilidad con los formatos numéricos FP4 y FP6 de precisión reducida, lo que permite hasta 9,2 petaflops de cálculo FP4. Las especificaciones de memoria incluyen 288 GB de HBM3E en ocho pilas, lo que proporciona 8 TB/s de ancho de banda total. Los plazos de producción sitúan la entrada en el mercado de la MI355X en la segunda mitad de 2025, siguiendo la cadencia anual de AMD en el lanzamiento de GPU para centros de datos. Para la segunda mitad, es probable que Oracle prepare el espacio del centro de datos para estas GPU y las encienda una vez que AMD lance estos aceleradores.

Fuente: Oracle Earning Transcript