HBM de Micron diseñada para la plataforma de IA líder de AMD

Micron Technology, Inc. anunció hoy la integración de su oferta de 12 GB de 12 GB en las próximas soluciones de la Serie AMD Instinct MI350. Esta colaboración destaca el papel fundamental de la eficiencia y el rendimiento de la energía en la formación de grandes modelos de IA, ofreciendo inferencias de alto rendimiento y manejando cargas complejas de HPC, como el procesamiento de datos y el modelado computacional. Además, representa otro hito significativo en el liderazgo de la industria de HBM para Micron, mostrando su robusta ejecución y el valor de sus fuertes relaciones con los clientes.

• 

• 

Micron HBM3E 36 GB solución de 12-altas lleva la tecnología de memoria líder en la industria a las plataformas GPU de AMD Instinct MI350 Series, proporcionando un sobresaliente ancho de banda y menor consumo de energía. Las plataformas GPU de la serie AMD Instinct MI350, construidas sobre arquitectura avanzada de AMD CDNA 4, integran 288 GB de capacidad de memoria HBM3E de alto ancho de banda, entregando hasta 8 TB/s de ancho de banda para un rendimiento excepcional. Esta inmensa capacidad de memoria permite a las GPUs de la serie Instinct MI350 para soportar eficientemente modelos de IA con hasta 520 mil millones de parámetros en una sola GPU. En una configuración completa de la plataforma, Instinct MI350 Series GPUs ofrece hasta 2.3 TB de memoria HBM3E y logra un rendimiento teórico máximo de hasta 161 PFLOPS a la precisión del FP4, con eficiencia energética de liderazgo y escalabilidad para cargas de carga de IA de alta densidad. Esta arquitectura estrechamente integrada, combinada con el HBM3E eficiente en potencia de Micron, permite un rendimiento excepcional para el entrenamiento de modelos de lenguaje grande, tareas de inferencia y simulación científica.empoderar los centros de datos para escalar sin problemas al tiempo que maximiza el rendimiento de cálculo per vatio. Este esfuerzo conjunto entre Micron y AMD ha permitido un mayor tiempo para comercializar soluciones de IA.

  

"Nuestra estrecha relación de trabajo y esfuerzos de ingeniería conjunta con AMD optimicen la compatibilidad del producto Micron HBM3E 36 GB de 12-altas con las GPU y plataformas de la serie Instinct MI350. El liderazgo y las innovaciones tecnológicas de la industria HBM3E de Micron proporcionan mejores beneficios de TCO para los clientes finales con alto rendimiento para sistemas de IA exigentes", dijo Praveen Vaidyanathan, vicepresidente y gerente general de Cloud Memory Products at Micron.

"El Micron HBM3E 36 GB de 12-C. es fundamental para desbloquear el rendimiento y la eficiencia energética de los aceleradores de la serie AMD Instinct MI350", dijo Josh Friedrich, vicepresidente corporativo de AMD Instinct Product Engineering en AMD. "Nuestra colaboración continua con Micron promueve memoria de alto ancho de banda de baja potencia y que ayuda a los clientes a entrenar modelos de IA más grandes, inferencia de velocidad y abordar cargas de trabajo complejas de HPC".

Micron HBM3E 36 GB de 12 altos producto está ahora calificado en varias plataformas líderes de IA. Para más información sobre la cartera de productos HBM de Micron, visite: Memoria de ancho de banda alta . Micron Technology Inc.

Fuente: Micron