Red Hat y AMD fortalecen su colaboración estratégica para lograr una GenAI más eficiente
20 may 2025
4 min de lectura
Red Hat, el proveedor líder mundial de soluciones de código abierto, y AMD anunciaron hoy una colaboración estratégica para impulsar las capacidades de IA y optimizar la infraestructura virtualizada. Con esta alianza más profunda, Red Hat y AMD ampliarán la elección del cliente en toda la nube híbrida, desde el despliegue de modelos de IA optimizados y eficientes hasta la modernización más rentable de las máquinas virtuales tradicionales (VM). A medida que la demanda de carga de trabajo y la diversidad siguen aumentando con la introducción de la IA, las organizaciones deben tener la capacidad y los recursos para satisfacer estas necesidades cada vez mayores. El centro de datos promedio, sin embargo, está dedicado principalmente a los sistemas tradicionales de TI, dejando poco espacio para soportar cargas de trabajo intensivas como AI. Para responder a esta necesidad, Red Hat y AMD están reuniendo el poder de las soluciones de código abierto líderes en la industria de Red Hat con la cartera completa de arquitecturas informáticas de alto rendimiento de AMD.
AMD y Red Hat: Conducción a IA generativa más eficiente
Red Hat y AMD están combinando el poder de Red Hat AI con la cartera AMD de procesadores y arquitecturas GPU basadas en x86 para soportar entornos optimizados, rentables y listos para la producción para cargas de trabajo con AI. GPUs Instinto AMD están ahora totalmente habilitados en IA descabellada Red Hat OpenShift, empoderando a los clientes con la potencia de procesamiento de alto rendimiento necesaria para los despliegues de IA en toda la nube híbrida sin requisitos de recursos extremos. Además, utilizando Instinto AMD MI300X GPUs con Red Hat Enterprise Linux AI, Red Hat y AMD llevaron a cabo pruebas en Microsoft Azure ND MI300X v5 para demostrar con éxito Infierencing de IA para escalar modelos de lenguaje pequeño (SLM) así como modelos de lenguaje grandes (LLM) desplegados en múltiples GPUs en una sola VM, reduciendo la necesidad de desplegar a través de múltiples VMs y reduciendo los costos de rendimiento.
Para impulsar nuevas capacidades de aceleración y afinación de rendimiento, Red Hat y AMD están colaborando en la comunidad vLLM aguas arriba para fomentar una inferencia de IA más eficiente. Con esta activación aguas arriba, Red Hat y AMD tienen como objetivo entregar:
Mejora del rendimiento en GPUs AMD: Al abrir la biblioteca del núcleo AMD y optimizar varios componentes como el kernel Triton y FP8, Red Hat y AMD están avanzando en el rendimiento de inferencia tanto para modelos densos como cuantificados, lo que permite una ejecución más rápida y eficiente de vLLM en AMD Instinct MI300X aceleradores.
Apoyo multi-GPU mejorado: Mejorar la comunicación colectiva y optimizar las cargas de trabajo multi-GPU abre la puerta a despliegues de IA más escalables y eficientes desde el punto de vista energético, que es particularmente beneficioso para las cargas de trabajo que requieren computación distribuida en múltiples GPU, reduciendo los cuellos de botella y mejorando la producción general.
Participación del ecosistema de vLLM ampliado: Colaboración cruzada entre Red Hat, AMD y otros líderes de la industria como IBM ayuda a acelerar el desarrollo ascendente para impulsar mejoras continuas tanto para el proyecto vLLM como para la optimización de GPU de AMD, beneficiando aún más a los usuarios de vLLM que dependen del hardware de AMD para la inferencia y la formación de IA.
Basándose en esta colaboración en la comunidad vLLM, las GPUs de Instinto de AMD apoyarán Red Hat AI Inference Server, la distribución de línea empresarial de Red Hat de vLLM, fuera de la caja para un servidor de inferencia de IA potente, confiable y escalable. Como principal contribuyente comercial a vLLM, Red Hat se compromete a permitir la compatibilidad al desplegar vLLM en el hardware de elección de una organización, que incluye GPUs de Instinct AMD. Ejecutar vLLM en GPUs de Instinto AMD permite a las organizaciones desplegar cualquier modelo de IA de código abierto en hardware de GPU validado y probado para una optimización y rendimiento sobresalientes.
Las CPU AMD EPYC también permiten el rendimiento de IA de extremo a extremo y son ideales para albergar sistemas habilitados para GPU. Esto puede ayudar a mejorar el rendimiento y el rendimiento de la inversión (ROI) de cada servidor de GPU para incluso las cargas de trabajo de IA más exigentes.
Transformando el centro de datos moderno
Al optimizar las huellas existentes del centro de datos, las organizaciones pueden reinvertir más eficazmente y fácilmente los recursos para permitir la innovación en IA. Red Hat OpenShift Virtualization, una característica de Red Hat OpenShift, ofrece una ruta aerodinámica para que las organizaciones migren y gestionen cargas de trabajo de VM con la simplicidad y velocidad de una plataforma de aplicación nativa en la nube. Red Hat OpenShift Virtualization está validada para los procesadores EPYC de AMD capaces de aprovechar el excelente rendimiento y eficiencia de potencia de los procesadores EPYC de AMD EPYC, siempre que sea necesario en la nube híbrida, manteniendo un puente hacia un futuro nublado.
.png)
Comentarios