Myrtle.ai permite latencias de inferencia ML de microsegundos ejecutando VOLLO en SmartNICs de Napatech

Myrtle.ai, un reconocido líder en la aceleración de la inferencia del aprendizaje automático, dio hoy lanzando apoyo a su acelerador de inferencia VOLLO en la serie NT400D1x de SmartNICs de Napatech. VOLLO logra la inferencia ML líder en la industria latencias de la inferencia, que pueden ser menos de un microsegundo. Esta nueva versión permite a aquellos que necesitan las latencias más bajas posibles para ejecutar la inferencia junto a la red en un SmartNIC. Una amplia gama de modelos se pueden ejecutar en VOLLO, incluyendo LSTM, CNN, MLP, así como bosques aleatorios y árboles de decisión de arranque de Gradient.

Esto se ha desarrollado para satisfacer las necesidades de una amplia gama de aplicaciones, incluyendo el comercio financiero, las telecomunicaciones inalámbricas, la seguridad cibernética, la gestión de redes y otras, donde la gestión de la inferencia ML a la menor latencia posible confiere ventajas en seguridad, seguridad, beneficios, eficiencia y costo.

 

"Estamos emocionados de trabajar con el líder mundial en las ventas de SmartNIC para permitir una baja tardanza sin precedentes para la inferencia de ML", dijo Peter Baldwin, CEO de Myrte.ai. "Nuestros clientes están buscando agresivamente latencias cada vez más bajas y esta nueva versión les permitirá aprovechar todo el beneficio del liderazgo tardanza de VOLLO".

Jarrod J.S. Siket, Director de Producto y Marketing de Napatech estaba entusiasmado con las perspectivas. "Reconocimos que el líder de la latencia en los índices de referencia STAC ML podría traer valor real a nuestros clientes en el mercado financiero a medida que aumentan su adopción de ML para el comercio de automóviles", dijo. "El compilador VOLLO está diseñado para que sea muy fácil para los desarrolladores de ML utilizar nuestros SmartNICs y esto realmente fortalece nuestra cartera de productos y servicios".

Los interesados pueden ahora descargar el compilador VOLLO orientado a ML de vollo.myrtle.ai hoy y descubrir qué tartas se pueden lograr con sus modelos en la serie NT400D1x de SmartNICs de Napatech.

Fuente: Myrtle.ai