La infraestructura en la nube de Oracle se refuerza con miles de GPU NVIDIA Blackwell

Oracle ha puesto en marcha y optimizado su primera oleada de racks NVIDIA GB200 NVL72 refrigerados por líquido en sus centros de datos. Miles de GPU NVIDIA Blackwell ya están instaladas y listas para ser utilizadas por los clientes en NVIDIA DGX Cloud y Oracle Cloud Infrastructure (OCI) para desarrollar y ejecutar modelos de razonamiento y agentes de IA de última generación. La moderna instalación GB200 de Oracle incluye redes InfiniBand NVIDIA Quantum-2 y Ethernet NVIDIA Spectrum-X de alta velocidad para proporcionar un rendimiento escalable y de baja latencia, así como una completa pila de integraciones de software y bases de datos de NVIDIA y OCI.

OCI, uno de los proveedores de servicios en la nube más grandes y de más rápido crecimiento del mundo, es uno de los primeros en implantar los sistemas GB200 NVL72 de NVIDIA. La compañía tiene ambiciosos planes para construir uno de los clusters Blackwell más grandes del mundo. Los superclusters de OCI se ampliarán a más de 100.000 GPU Blackwell de NVIDIA para satisfacer la creciente necesidad mundial de tokens de inferencia y cálculo acelerado. El tórrido ritmo de innovación en IA continúa, ya que varias compañías, entre ellas OpenAI, han lanzado nuevos modelos de razonamiento en las últimas semanas.

La instalación de OCI es el último ejemplo de los sistemas NVIDIA Grace Blackwell que entran en funcionamiento en todo el mundo, transformando los centros de datos en la nube en fábricas de IA que fabrican inteligencia a escala. Estas nuevas fábricas de IA aprovechan la plataforma GB200 NVL72 de NVIDIA, un sistema a escala de bastidor que combina 36 CPU Grace y 72 GPU Blackwell de NVIDIA, lo que proporciona un rendimiento y una eficiencia energética excepcionales para la IA agéntica impulsada por modelos de razonamiento de IA avanzados.

OCI ofrece opciones de despliegue flexibles para llevar Blackwell a los clientes a través de nubes públicas, gubernamentales y soberanas, así como centros de datos propiedad del cliente a través de OCI Dedicated Region y OCI Alloy a cualquier escala.

Varios clientes están planeando desplegar cargas de trabajo de inmediato en los sistemas OCI GB200, entre los que se incluyen importantes compañías tecnológicas, clientes empresariales, agencias gubernamentales y contratistas, y proveedores regionales de cloud.

Estos nuevos racks son los primeros sistemas disponibles de NVIDIA DGX Cloud, una plataforma optimizada con software, servicios y soporte técnico para desarrollar e implantar cargas de trabajo de IA en nubes líderes como OCI. NVIDIA utilizará los racks para diversos proyectos, como el entrenamiento de modelos de razonamiento, el desarrollo de vehículos autónomos, la aceleración del diseño y la fabricación de chips y el desarrollo de herramientas de IA.

Los racks GB200 NVL72 ya están disponibles en DGX Cloud y OCI.

Fuente: Blog de NVIDIA