Arm y sus socios desarrollan una CPU de IA: Neoverse V3 CSS Fabricado en 2 nm Samsung GAA FET

Ayer, Arm anunció avances significativos en su iniciativa Total Design. El programa, lanzado hace un año, tiene como objetivo acelerar el desarrollo de silicio personalizado para centros de datos mediante el fomento de la colaboración entre socios de la industria. El ecosistema ha crecido hasta incluir casi 30 empresas participantes, con recientes incorporaciones como Alcor Micro, Egis, PUF Security y SEMIFIVE. Cabe destacar la asociación entre Arm, Samsung Foundry, ADTechnology y Rebellions para crear una plataforma de chip de CPU de IA. Esta colaboración pretende ofrecer una solución para cargas de trabajo en la nube, HPC e IA/ML, combinando el acelerador de IA de Rebellions con el chip de computación de ADTechnology, implementado con la tecnología FET Gate-All-Around (GAA) de 2 nm de Samsung Foundry. Se espera que la plataforma ofrezca importantes mejoras de eficiencia para las cargas de trabajo de IA generativa, con estimaciones que sugieren una mejora de 2 a 3 veces sobre el diseño de CPU estándar para LLM como Llama3.1 con 405.000 millones de parámetros.

El enfoque de Arm hace hincapié en la importancia de la computación de la CPU para dar soporte a toda la pila de IA, incluido el preprocesamiento de datos, la orquestación y técnicas avanzadas como la generación aumentada por recuperación (RAG). Los subsistemas de computación (CSS) de la compañía están diseñados para dar respuesta a estos requisitos, proporcionando una base para que los socios construyan diversas soluciones de chiplet. Varias empresas, entre ellas Alcor Micro y Alphawave, ya han anunciado sus planes de desarrollar chiplets con CSS para diversas aplicaciones de IA y computación de alto rendimiento. La iniciativa también se centra en la preparación del software, garantizando que los principales marcos y sistemas operativos sean compatibles con los sistemas basados en Arm. Entre los esfuerzos más recientes figura la introducción de la tecnología Arm Kleidi, que optimiza la inferencia basada en CPU para proyectos de código abierto como PyTorch y Llama.cpp. Tal y como afirma Google, la mayoría de las cargas de trabajo de IA se infieren en CPU, por lo que crear las CPU más eficientes y de mayor rendimiento para la IA tiene mucho sentido.

Fuente: Arm