Ampere amplía la familia de productos AmpereOne a 256 núcleos

Ampere Computing ha publicado hoy su actualización anual sobre próximos productos e hitos, destacando la continua innovación e invención de la compañía en torno a la computación sostenible y eficiente en energía para la Nube y la IA. La compañía también ha anunciado que está trabajando con Qualcomm Technologies, Inc. para desarrollar una solución conjunta para la inferencia de IA utilizando las soluciones de inferencia de alto rendimiento y bajo consumo Qualcomm Cloud AI 100 de Qualcomm Technologies y las CPU de Ampere.

Renee James, veterana de la industria de semiconductores y CEO de Ampere, afirmó que el aumento de los requisitos de potencia y el reto energético de la IA están poniendo más que nunca de relieve el enfoque de diseño de silicio de Ampere en torno al rendimiento y la eficiencia. «Empezamos por este camino hace seis años porque está claro que es el camino correcto», dijo James. «Bajo consumo solía ser sinónimo de bajo rendimiento. Ampere ha demostrado que eso no es cierto. Hemos sido pioneros en la frontera de la eficiencia de la computación y hemos ofrecido un rendimiento superior al de las CPU heredadas en una envolvente de computación eficiente.»

James continuó destacando el creciente problema del rápido avance hacia la IA: la energía. «El camino actual es insostenible. Creemos que la futura infraestructura de los centros de datos tiene que considerar cómo reequipar los entornos existentes refrigerados por aire con computación mejorada, así como construir nuevos centros de datos sostenibles desde el punto de vista medioambiental que se adapten a la energía disponible en la red. Eso es lo que hacemos posible en Ampere».

El Director de Producto Jeff Wittich compartió la visión de Ampere para lo que la compañía se refiere como «AI Compute», que incorpora capacidades tradicionales nativas de la nube hasta llegar a la IA. «Nuestras CPU Ampere pueden ejecutar una amplia gama de cargas de trabajo, desde las aplicaciones nativas de la nube más populares hasta la IA. Esto incluye IA integrada con aplicaciones tradicionales nativas de la nube, como procesamiento de datos, servicio web, entrega de medios y más.»

James y Wittich también destacaron la próxima plataforma AmpereOne de la empresa y anunciaron que una CPU de 256 núcleos y 12 canales está lista para funcionar en el nodo de proceso N3.

Junto con las actualizaciones sobre la dirección y visión de la empresa, la actualización de este año incluyó varias noticias destacadas:

Ampere está colaborando con Qualcomm Technologies para desarrollar una solución conjunta con CPU de Ampere y Qualcomm Cloud AI 100 Ultra. Esta solución abordará la inferencia LLM en los modelos de IA generativa más grandes del sector.

La ampliación de la plataforma de 12 canales de Ampere con la próxima CPU AmpereOne de 256 núcleos de la empresa. Utilizará las mismas soluciones térmicas refrigeradas por aire que la actual CPU AmpereOne de 192 núcleos y ofrecerá más de un 40% más de rendimiento que cualquier CPU del mercado actual, sin necesidad de diseños de plataforma exóticos. La plataforma de memoria de 12 canales y 192 núcleos de la empresa aún se espera para finales de este año.

Una actualización que Llama 3 de Meta ya se está ejecutando en CPU Ampere en Oracle Cloud. Los datos de rendimiento muestran que la ejecución de Llama 3 en la CPU Ampere Altra de 128 núcleos sin GPU ofrece el mismo rendimiento que una GPU Nvidia A10 emparejada con una CPU x86, todo ello utilizando un tercio de la energía.

Anuncia la formación de un grupo de trabajo UCIe como parte de la AI Platform Alliance. Como parte de esta iniciativa, la empresa afirma que aprovechará la flexibilidad de sus CPU utilizando la tecnología de interfaz abierta para poder incorporar la IP de otros clientes en futuras CPU.

Se ofrecen nuevos detalles sobre el rendimiento de AmpereOne y las plataformas OEM y ODM. AmpereOne sigue manteniendo el liderazgo en rendimiento por vatio de Ampere, superando a AMD Genoa en un 50% y a Bergamo en un 15%. Para los centros de datos que buscan renovar y consolidar infraestructuras antiguas para recuperar espacio, presupuesto y energía, AmpereOne ofrece hasta un 34% más de rendimiento por rack.

Se anuncia que las nuevas plataformas AmpereOne OEM y ODM estarán disponibles en unos meses.

Anunció una solución conjunta con NETINT que utiliza los chips de procesamiento de vídeo Quadra T1U de la empresa y las CPU de Ampere para transcodificar simultáneamente 360 canales en directo junto con subtítulos en tiempo real para 40 flujos en varios idiomas utilizando el modelo Whisper de OpenAI.

Además de funciones ya existentes como Memory Tagging, QOS Enforcement y Mesh Congestion Management, la empresa ha presentado una nueva función FlexSKU, que permite a los clientes utilizar la misma SKU para casos de uso de escalabilidad horizontal y vertical.