Marvell anuncia una arquitectura de computación HBM personalizada para aceleradores de IA

Marvell Technology, Inc. (NASDAQ: MRVL), líder en soluciones de semiconductores para infraestructuras de datos, ha anunciado hoy que ha sido pionera en una nueva arquitectura de computación HBM personalizada que permite a las XPU alcanzar una mayor densidad de computación y memoria. La nueva tecnología está a disposición de todos sus clientes de silicio personalizado para mejorar el rendimiento, la eficiencia y el coste total de propiedad de sus XPU personalizadas. Marvell está colaborando con sus clientes de la nube y los principales fabricantes de HBM, Micron, Samsung Electronics y SK hynix, para definir y desarrollar soluciones HBM personalizadas para las XPU de próxima generación.

La HBM es un componente crítico integrado en la XPU que utiliza una avanzada tecnología de empaquetado 2,5D e interfaces de alta velocidad estándar del sector. Sin embargo, el escalado de las XPU está limitado por la actual arquitectura basada en interfaces estándar. La nueva arquitectura de computación HBM personalizada de Marvell introduce interfaces a medida para optimizar el rendimiento, la potencia, el tamaño de la matriz y el coste de diseños de XPU específicos. Este enfoque tiene en cuenta el silicio de computación, las pilas HBM y el embalaje. Al personalizar el subsistema de memoria HBM, incluida la propia pila, Marvell avanza en la personalización de la infraestructura de los centros de datos en la nube. Marvell está colaborando con los principales fabricantes de HBM para implantar esta nueva arquitectura y satisfacer las necesidades de los operadores de centros de datos en nube.

La arquitectura de computación HBM personalizada de Marvell mejora las XPU al serializar y acelerar las interfaces de E/S entre sus troqueles de silicio internos del acelerador de computación de IA y los troqueles base HBM. El resultado es un mayor rendimiento y hasta un 70% menos de potencia de interfaz en comparación con las interfaces HBM estándar. Las interfaces optimizadas también reducen el espacio de silicio necesario en cada chip, lo que permite integrar la lógica de soporte de HBM en el chip base. Este ahorro de espacio, de hasta el 25%, puede utilizarse para mejorar las capacidades de cálculo, añadir nuevas funciones y admitir hasta un 33% más de pilas HBM, lo que aumenta la capacidad de memoria por XPU. Estas mejoras aumentan el rendimiento y la eficiencia energética de las XPU, al tiempo que reducen el coste total de propiedad para los operadores de la nube.

«Los principales operadores de centros de datos en la nube han escalado con infraestructuras personalizadas. Mejorar las XPU adaptando la HBM para obtener un rendimiento, una potencia y un coste total de propiedad específicos es el último paso de un nuevo paradigma en la forma en que se diseñan y suministran los aceleradores de IA», afirma Will Chu, vicepresidente sénior y director general de Custom, Compute and Storage Group en Marvell. «Estamos muy agradecidos de trabajar con los principales diseñadores de memoria para acelerar esta revolución y, ayudar a los operadores de centros de datos en la nube a seguir escalando sus XPU y su infraestructura para la era de la IA.»

«El aumento de la capacidad de memoria y el ancho de banda ayudará a los operadores de la nube a escalar eficientemente su infraestructura para la era de la IA», dijo Raj Narasimhan, vicepresidente senior y gerente general de la Unidad de Negocios de Computación y Redes de Micron. «Las colaboraciones estratégicas centradas en la eficiencia energética, como la que tenemos con Marvell, se basarán en las especificaciones de potencia HBM de Micron, líderes en la industria, y proporcionarán a los hiperescaladores una plataforma robusta para ofrecer las capacidades y el rendimiento óptimo necesarios para escalar la IA.»

«La optimización de HBM para XPU y entornos de software específicos mejorará en gran medida el rendimiento de la infraestructura de los operadores de la nube y garantizará un uso eficiente de la energía», dijo Harry Yoon, vicepresidente ejecutivo corporativo de Samsung Electronics y jefe de planificación de productos y soluciones para América. «El avance de la IA depende de este tipo de esfuerzos centrados. Estamos deseando colaborar con Marvell, líder en innovación de silicio de computación personalizada.»

«Al colaborar con Marvell, podemos ayudar a nuestros clientes a producir una solución más optimizada para sus cargas de trabajo e infraestructura», dijo Sunny Kang, vicepresidente de tecnología DRAM de SK hynix America. «Como uno de los principales pioneros de HBM, esperamos dar forma a esta próxima etapa evolutiva para la tecnología».

«Las XPU personalizadas ofrecen un rendimiento y un rendimiento por vatio superiores en comparación con las soluciones comerciales de uso general para cargas de trabajo específicas y exclusivas de la nube», afirma Patrick Moorhead, CEO y fundador de Moor Insights & Strategy. «Marvell, que ya es uno de los principales fabricantes de silicio para computación personalizada, ya está ofreciendo soluciones a medida a las principales empresas de cloud computing. Su última plataforma de arquitectura HBM para computación personalizada proporciona una palanca adicional para mejorar el coste total de propiedad del silicio personalizado. A través de la colaboración estratégica con los principales fabricantes de memoria, Marvell está preparada para empoderar a los operadores de la nube en el escalado de sus XPU y la infraestructura acelerada, allanando así el camino para que puedan habilitar el futuro de la IA.»