MAINGEAR presenta el paquete aiDAPTIV+ para estaciones de trabajo Pro RS y Pro WS, desarrollado conjuntamente con Phison.

MAINGEAR, un proveedor líder de PCs personalizados de alto rendimiento, anunció hoy un nuevo paquete aiDAPTIV+, co-desarrollado con Phison Electronics, líder mundial en controladores flash NAND y soluciones de almacenamiento, para sus estaciones de trabajo Pro RS y Pro WS. El complemento aiDAPTIV + permite el ajuste completo de parámetros y la inferencia de modelo grande en las GPU convencionales, ayudando a los equipos a moverse más rápido mientras mantienen los datos privados y en el prem. Las demostraciones en vivo de una estación de trabajo MAINGEAR equipada con aiDAPTIV + estarán disponibles en el stand de Phison durante NVIDIA GTC Washington, D.C.

Los equipos de IA necesitan capacitación on-prem y rendimiento de inferencia sin la imprevisibilidad de los costos de la nube o la exposición de datos confidenciales. El paquete aiDAPTIV + combina las potentes estaciones de trabajo preparadas para la empresa de MAINGEAR con el almacenamiento en caché SSD inteligente aiDAPTIV + de Phison para expandir la VRAM efectiva, permitiendo modelos más grandes y contextos más largos en el borde, con costos predecibles y una implementación amigable con TI.

   

"La IA en los prem no debería requerir un laboratorio de investigación", dijo Wallace Santos, CEO de MAINGEAR. "Con aiDAPTIV + en nuestras estaciones de trabajo Pro, los equipos pueden ajustar modelos reales, mantener los datos privados y pasar de la idea a la visión más rápido, en el hardware que realmente pueden comprar, dar servicio y escalar".

¿Qué capacidades añade aiDAPTIV+:

• Entrenamiento de parámetros completos y ajuste en el prem: Iterar rápidamente en cargas de trabajo reales mientras mantiene los conjuntos de datos IP y sensibles internos.

• Modelos más grandes en las GPU convencionales: aiDAPTIV + extiende una VRAM efectiva, desbloqueando modelos y contextos más grandes sin hardware exótico.

• TCO predecible y escala fácil: Evite las facturas sorpresa de la nube; escalar gradualmente con componentes familiares y útiles.

• Compatibilidad amplia de la plataforma: se ofrece en las PC de estación de trabajo MAINGEAR Pro RS y Pro WS, y compatible con las opciones de CPU Intel Core, Intel Xeon, AMD Ryzen y AMD Threadripper.

• Fácil de implementar: Se entrega como un paquete MAINGEAR prevalidado con espacio para aumentar la memoria, el almacenamiento y la capacidad de la GPU con el tiempo.

• Gestión de usuarios: Pro Suite admite múltiples usuarios a través de una intranet local con acceso basado en roles para admitir usuarios concurrentes.

Capacidad de rendimiento y IA

Para cargas de trabajo representativas, los sistemas admiten ajuste fino de parámetros completos en modelos de hasta 16B y escalan a clases de modelos más grandes. La inferencia sigue siendo sensible para los modelos de la clase 7B-16B localmente, con 70B (cuantificado AWQ4) adecuado para la inferencia por lotes o de fondo. Al extender la VRAM efectiva con almacenamiento de alto rendimiento, aiDAPTIV + ayuda a suavizar el rendimiento de la ráfaga durante las tuberías de múltiples etapas. El paquete está diseñado para el desarrollo de múltiples sesiones y entornos de control de calidad, con concurrencia alcanzable dependiendo de las configuraciones y precisión de la GPU seleccionadas.

"aiDAPTIV + ayuda a desbloquear modelos más grandes sin la necesidad de tantas GPU como se utilizan en la capacitación tradicional, lo que permite el acceso a una capacitación de alto parámetro para una audiencia más amplia", dijo Michael Wu, GM y presidente de Phison US. "Junto con MAINGEAR, estamos dando a los desarrolladores un camino práctico para entrenar e implementar en el borde, combinando rendimiento, previsibilidad y control de datos en una sola huella de estación de trabajo".

Verlo en GTC-DC: Demos of MAINGEAR Pro WS workstations with the aiDAPTIV+ pack estará disponible en el stand #667 de Phison en NVIDIA GTC Washington, D.C.

La herramienta de configuración de estación de trabajo Pro WS y Pro RS de MAINGEAR está en vivo, permitiendo a los clientes adaptar sus sistemas para satisfacer sus necesidades únicas. Con el configurador, los usuarios pueden explorar varias configuraciones y obtener precios en función de las especificaciones elegidas. Los clientes con necesidades específicas de hardware pueden ponerse en contacto con el equipo de ventas sin presión de MAINGEAR, compuesto completamente por usuarios avanzados de PC, para consulta y orientación.

Fuente: MAINGEAR