SK hynix presenta el prototipo de la primera tarjeta aceleradora GDDR6-AiM 'AiMX' para IA generativa

SK hynix desveló y demostró un prototipo de AiMX (Accelerator-in-Memory based Accelerator), una tarjeta aceleradora de IA generativa basada en GDDR6-AiM, en la AI Hardware & Edge AI Summit 2023 celebrada del 12 al 14 de septiembre en el Santa Clara Marriott, California.Organizada anualmente por la firma de marketing británica Kisaco Research, la AI Hardware & Edge AI Summit reúne a empresas de TI globales y startups de alto perfil para compartir sus desarrollos en inteligencia artificial y aprendizaje automático. Esta es la tercera vez que SK hynix participa en la cumbre.

En el evento, la compañía mostró el prototipo de AiMX, una tarjeta aceleradora que combina múltiples GDDR6-AiM para mejorar aún más el rendimiento, junto con la propia GDDR6-AIM bajo el lema "Impulsa tu IA: descubre la potencia de PIM (Processing-In-Memory) con AiM (Accelerator in Memory) de SK hynix". Como solución de memoria de alta velocidad y bajo consumo capaz de manejar grandes cantidades de datos, AiMX está llamada a desempeñar un papel clave en el avance de los sistemas de IA generativa con gran cantidad de datos. El rendimiento de la IA generativa mejora a medida que se entrena con más datos, lo que subraya la necesidad de productos de alto rendimiento que puedan aplicarse a toda una serie de sistemas de IA generativa.

SK hynix también demostró el modelo Open Pretrained Transformer (OPT) 13B de IA generativa de Meta en un sistema servidor equipado con el prototipo AiMX. El sistema AiMX con chips GDDR6-AiM reduce el tiempo de procesamiento de datos en más de 10 veces en comparación con los sistemas con GPU, al tiempo que consume una quinta parte de energía. La demostración de la compañía despertó el interés de las empresas mundiales que prestan servicios de IA al demostrar que puede ofrecer un rendimiento superior al de los aceleradores más recientes.

Además, la compañía celebró una sesión en la que describió las ventajas de AiMX. En una presentación titulada "Cost-Effective Generative AI Inference Acceleration using AiM", Eui-cheol Lim, vicepresidente de la división de Desarrollo de Soluciones, comparó el rendimiento de las GPU y AiMX y analizó el futuro de las memorias semiconductoras inteligentes de próxima generación.

"AiMX de SK hynix es una solución que ofrece un mayor rendimiento con un menor consumo de energía y un coste inferior al de las GPU convencionales", explicó Lim. "Seguiremos desarrollando tecnologías de memoria que lideren la era de la inteligencia artificial".

Fuente: SK Hynix