MemryX anuncia la disponibilidad de producción del acelerador de IA MX3 Edge

MemryX, líder innovador en aceleradores de IA para aplicaciones Edge, ha anunciado hoy la disponibilidad de producción del acelerador de IA MX3 Edge. Disponible hoy como chip independiente y como módulo M.2 2280 de 4 chips, el MX3 ofrece una facilidad de uso líder en la industria, el mejor rendimiento de su clase y una alta eficiencia energética. «El equipo de MemryX cuenta con décadas de experiencia en la introducción en el mercado de silicio y software de producción de alta calidad y gran volumen», afirma Keith Kressin, CEO de MemryX. «Después de muchos meses de rigurosas pruebas, estamos muy contentos de anunciar que hemos alcanzado el hito de producción de nuestro Edge AI Accelerator. Hemos probado la calidad, el rendimiento, la latencia y la precisión en 1000s de modelos de IA y estamos seguros de que los clientes estarán muy satisfechos al elegir MemryX para aplicaciones Edge AI»

MemryX escuchó a los clientes que a menudo se han sentido frustrados con otras soluciones Edge AI, antes de sacar al mercado la transformadora solución MX3. Las principales ventajas de la solución MemryX incluyen:

Altos FPS: la arquitectura de flujo de datos y computación en memoria MemryX destaca en el funcionamiento en cadena. Por ejemplo, una sola tarjeta MemryX M.2 de bajo consumo puede ejecutar de forma continua uno o más modelos de IA en decenas de flujos de cámaras entrantes, lo que supone un cambio radical para aplicaciones periféricas como los sistemas de gestión de vídeo.

Alta precisión de los modelos con sólo 1 clic: las herramientas automatizadas de MemryX pueden compilar y ejecutar miles de modelos de IA con alta precisión con sólo 1 clic. MX3 utiliza activaciones de punto flotante, y el proceso de compilación mantiene los modelos de IA como entrenados. Esto significa que los clientes que utilizan MX3 no necesitan volver a entrenar los modelos ni utilizar imágenes piloto durante la cuantización del mapa de características para aumentar la precisión o aproximar operadores no admitidos en silicio.

Sin zoo de modelos ni cambios de modelos ocultos: MemryX no utiliza ni requiere un zoo de modelos, en el que los modelos de los clientes se modifican para adaptarse al hardware de destino. En su lugar, los modelos originales permanecen totalmente intactos cuando se compilan y ejecutan en MX3. Por supuesto, un cliente siempre tiene la opción de podar, comprimir o destilar un modelo determinado para realizar las compensaciones de diseño deseadas. Pero MemryX no requiere cambios en el modelo para una utilización eficiente y elevada del hardware.

Pre/Postprocesamiento automatizado - Aunque se utiliza un procesador de IA para las cargas de trabajo de IA, muchos modelos contienen código diseñado para el pre y postprocesamiento de la CPU. Los programadores deben entonces averiguar por sí mismos el código de pre y postprocesamiento. En cambio, MemryX identifica y empaqueta automáticamente este código, ayudando al programador a acelerar el despliegue de la aplicación mediante el autocropping.

Escalabilidad: se puede utilizar un único MX3 o combinarlo con chips MX3 adicionales, todos ellos actuando sin problemas como una unidad lógica conectada al host. Esto significa que las configuraciones basadas en MX3 podrían ampliarse desde un único chip compatible con IA en una cámara inteligente avanzada hasta un Edge PC de 4 chips, pasando por una aplicación Edge Server de 8 o incluso 16 chips, todo ello utilizando exactamente el mismo software e interfaz de host sin añadir ningún hardware como conmutadores PCIe.

Bajo consumo: cada MX3 consume entre 0,5 y 2,0 W, en función de las exigencias del modelo de IA y de la configuración del sistema. Esto permite a la MX3 ofrecer computación de IA de alto rendimiento incluso en dispositivos sin ventilador para usos como PC industriales. Un módulo M.2 completo de 4 chips consume menos de una décima parte de la energía de las principales GPU de uso general, a la vez que proporciona un mayor rendimiento de IA Edge.

Amplia compatibilidad: MemryX es compatible con un amplio conjunto de plataformas x86, ARM y RISC-V desde el primer momento y con varios sistemas operativos.

MemryX lleva meses tomando muestras de diversos clientes. Entre las aplicaciones de clientes en desarrollo se incluyen el comercio minorista, la seguridad, la agricultura, la automoción y la robótica, entre otras. Con una gran facilidad de uso y escalabilidad, junto con especificaciones de temperatura industrial, MemryX está preparada para convertirse en la mejor opción para los clientes que buscan un procesamiento acelerado de IA en el perímetro.

«El MX3 permite a ASUS ofrecer análisis avanzados de IA en el borde con requisitos de computación reducidos, potenciando la inferencia de IA en tiempo real para nuestros clientes simplemente añadiendo el MX3 a sus dispositivos IPC existentes», dijo Jessy Li, Director de Soluciones IoT de ASUS.

«DYNICS ha integrado el módulo MemryX MX3 en nuestra plataforma impulsada por IA y los resultados son fenomenales. El MX3 proporciona la potencia de cálculo que necesitamos para ejecutar nuestros modelos de IA más exigentes en tiempo real, con un uso mínimo de energía, lo que nos permite desplegar la IA a escala resolviendo oportunidades industriales específicas», afirmó Ed Gatt, CEO de DYNICS.

En la actualidad, los módulos M.2 basados en MX3 pueden adquirirse a través de WPG Americas. Más adelante, en el cuarto trimestre, otros distribuidores de Norteamérica y el extranjero ofrecerán soluciones MemryX. Además, en el cuarto trimestre de 2024, MemryX ofrecerá un centro de desarrollo público con software de código abierto que mostrará cientos de modelos y aplicaciones finales.