AMD lanza las GPU Instinct MI350P PCIe

A medida que las organizaciones adoptan la IA, muchos descubren que su infraestructura lucha por mantenerse al día. Ejecutar IA en la nube es una opción, pero la nube puede introducir preocupaciones de privacidad y costos impredecibles. La actualización de la infraestructura local es otra opción, pero soportar grandes plataformas de acelerador de GPU puede requerir costosos rediseños en la potencia y la refrigeración del centro de datos. Nuestras nuevas tarjetas AMD Instinct MI350 PCIe le dan a su empresa una tercera opción: el rendimiento de la IA de liderazgo diseñado para adaptarse a la infraestructura del centro de datos que ya posee.

Rendimiento que cae en sus bastidores existentes

Diseñado para ayudarle a prepararse para la era de la IA agente, las tarjetas AMD Instinct MI350P PCIe son tarjetas de doble ranura para servidores refrigerados por aire estándar. Están diseñados para implementar inferencias en las instalaciones dentro de la infraestructura de energía, refrigeración y rack de su centro de datos actual. Las GPU AMD Instinct en tarjetas PCIe rentables completan la cartera de computación de AMD AI, proporcionando una gama de opciones para su empresa a medida que navega por su curva única de adopción de IA.

El factor de forma de tarjeta PCIe es una excelente opción para las empresas que necesitan más potencia informática de IA de la que las CPU pueden proporcionar, pero no están listas para invertir en plataformas de acelerador de GPU dedicadas. Disponibles en sistemas refrigerados por aire con hasta ocho tarjetas de aceleración, las tarjetas AMD Instinct MI350P PCIe son ideales para modelos de IA pequeñas, medianas y grandes para tuberías de inferencia y RAG.

No Solo Escale La IA. Escalar el ROI.

Las tarjetas PCIe MI350P de AMD Instinct están diseñadas para ofrecer un rendimiento excepcional de IA con un excelente rendimiento de costo y liderazgo. Las características clave ayudan a aumentar el rendimiento, simplificar la implementación y reducir los costos para que pueda pasar de la evaluación a los resultados reales:

• Soporte nativo para MXFP6 y MXFP4 de menor precisión, que ofrecen un alto rendimiento.

• Aceleración a través del soporte de la escasez para la mayoría de las precisiones principales de 8 y 16 bits.

• Se estima que 2.299 TeraFLOPS (TFLOPS) y hasta 4.600 TFLOPS pico en MXFP4, el rendimiento más alto actualmente disponible en una tarjeta PCIe empresarial.

• Se estima que se ejecutan 144 GB de memoria de alto ancho de banda 3e (HBM3E) hasta 4 TB/s.

• El ecosistema abierto con opciones de pila de desarrollo de bajo costo y sin costo simplifica la implementación y ayuda a reducir los gastos operativos.

Software de IA empresarial: desarrolle con su pila de IA. A Tu Manera, Hoy.

Construimos tarjetas AMD Instinct MI350P PCIe con estándares abiertos para la interoperabilidad multiplataforma. Su incorporación continúa nuestra estrategia de permitir un ecosistema de inteligencia artificial totalmente abierto y proporcionar opciones de clientes en entornos empresariales.

Piense en la pila de IA empresarial de AMD como un componente fundamental, integrándose a la perfección con un amplio ecosistema de software y herramientas de inteligencia artificial. Incluye el operador de GPU de Kubernetes para la gestión completa del ciclo de vida, los microservicios de inferencia AMD nativos de la nube y el soporte nativo para marcos de inteligencia artificial como PyTorch. Todo esto le permite migrar cargas de trabajo de inferencia con cambios de código mínimos.

Proporcionamos la pila de referencia de IA empresarial de AMD de código abierto a nuestros socios sin costo de licencia. Ofrece mayor transparencia de código y ayuda a reducir los gastos de operación. Cuando se combina con tarjetas PCIe AMD Instinct MI350P y soluciones entregadas por socios, la pila permite a sus organizaciones ponerse en marcha rápidamente en las instalaciones sin cargos continuos por token.

Aceleración nativa para niveles de precisión de IA empresarial

Las tarjetas PCIe MI350P de AMD Instinct admiten el espectro de niveles de precisión en los que la mayoría confían en los modelos de IA empresarial.

Mientras que MXFP6 y MXFP4 de menor precisión ofrecen un rendimiento maximizado en TFLOPS puros e implementaciones de modelos eficientes, los formatos de mayor precisión, como INT8 y BF16, se benefician del soporte de escasez en la GPU AMD Instinct MI350P para ofrecer un rendimiento eficiente. Independientemente de la precisión, las empresas encontrarán que las tarjetas PCIe MI350P de AMD Instinct están diseñadas para ofrecer el máximo rendimiento de la GPU y reducir el uso de la memoria para ayudar a reducir las demandas de energía y refrigeración.

El soporte para FP8, MXFP8 y MXFP4 es una de las principales razones por las que las tarjetas AMD Instinct MI350P PCIe pueden procesar las cargas de trabajo de IA actuales dentro de los centros de datos estándar refrigerados por aire.

Implemente Enterprise AI donde está hoy

Con las tarjetas AMD Instinct MI350P PCIe, su empresa puede pasar rápidamente de la infraestructura de metal desnudo a los sistemas de inteligencia artificial listos para la producción sobre una base sólida. Le permiten migrar cargas de trabajo sin reescrituras de código, integrar con las canalizaciones de IA existentes y escalar con cargas de trabajo en evolución.

Adoptar la IA no significa reconstruir la infraestructura desde cero. Con las tarjetas AMD Instinct MI350P PCIe, las empresas pueden ejecutar más modelos y servir a más usuarios dentro de sus centros de datos existentes.

Fuentes: Blog de AMD, Instint MI350P (página del producto)