Axelera AI duplica el rendimiento de los modelos de lenguaje grande (LLM) en el borde con Metis M.2 Max.

Axelera AI, el proveedor líder de tecnología de aceleración de hardware de IA construida a propósito, anunció hoy Metis M.2 Max, una nueva adición a la familia líder de la compañía en la unidad de procesadora Metis AI (AIPU). Entregando el rendimiento de una tarjeta PCIe en el factor de forma M.2, Metis M.2 Max está diseñado para las aplicaciones de inferencia de IA más intensivas en computación en el borde, incluyendo un mejor rendimiento para modelos de lenguaje grande (LLM) y redes transformadoras de visión.

Metis M.2 Max mejora el Metis M.2 actual con el doble ancho de banda de memoria, un perfil más delgado, características avanzadas de gestión térmica y capacidades de seguridad adicionales. Metis M.2 Max tendrá hasta 16 GB de memoria. Además, Axelera ofrecerá versiones de Metis M.2 Max tanto para el rango de temperatura de operación estándar (-20oC a 70oC) como un rango de temperatura de funcionamiento extendido (-40oC a 85oC) para entornos duros. Estas mejoras hacen que Metis M.2 Max sea ideal para aplicaciones en la fabricación industrial, el comercio minorista, la seguridad, la salud y la seguridad pública.

 

"Seguimos fijando el índice de referencia de la relación precio-rendimiento para el mercado acelerador de la IA", dijo Fabrizio del Maffeo, CEO de Axelera AI. "Nuestro objetivo es hacer posible que nuestros clientes desplieguen aplicaciones de vanguardia transformadoras a escala. Metis M.2 Max y nuestra tarjeta Metis M.2 original permiten a los clientes elegir la solución que mejor se adapte a sus requisitos, desde la visión de la computadora hasta los grandes modelos de idiomas, pasando por los últimos modelos de transformadores. También estamos agregando una mayor seguridad para abordar mejor el creciente paisaje de amenaza en el borde".

Metis M.2 Max se basa en la probada AIT de Axelera AI AI y ofrece un alto rendimiento y eficiencia para modelos grandes y exigentes como la visión y GenAI, incluyendo LLMs y modelos de lenguaje visual (VLM). M.2 Max ofrece un aumento del rendimiento del 33% en redes neuronales convolutionales (CNN) y el doble de token/segundo para LLMs y VLMs, todo mientras se mantiene dentro de un rango de potencia promedio típico de 6.5 W.

Con la seguridad en el borde, el Metis M.2 Max incorpora características de seguridad mejoradas, incluyendo protección de integridad de firmware a través de una Raíz de fideicomiso de seguridad, permitiendo capacidades seguras de arranque y actualización segura. Estas medidas de seguridad funcionan con transparencia, sin requerir intervención del usuario al tiempo que ayuda a garantizar que solo el firmware autenticado Axelera AI emitido funcione en los sistemas de clientes.

Metis M.2 Max, un módulo 2280 M.2 M-key, estará disponible como tablero independiente o con un disparo de calor opcional de bajo perfil. Este diseño reduce la altura de la tarjeta en un 27% en la actual tarjeta M.2, permitiendo una gama más amplia de configuraciones. Además, para los usuarios que requieren capacidades de IA en despliegues con energía o restricción térmica, una sonda de alimentación a bordo se puede utilizar para ajustar automáticamente el rendimiento a ajustes específicos.

Axelera AI facilita a los desarrolladores la incorporación de Metis M.2 Max en sus proyectos de IA con el Voyager SDK. Voyager desbloquea todo el potencial de las AIPU de Metis y simplifica el despliegue de modelos estándar de propiedad e industria.

Metis M.2 Max comienza a enviarse en el Q4 2025 desde la tienda de Axelera AI o a través de Axelera AI Channel Partners.

Fuente: Axelera AI