Phison y RedData lanzan soluciones aiDAPTIV+ para programas de IA clasificados de EE. UU.
- Masterbitz

- 30 oct
- 2 Min. de lectura
Phison Electronics, líder mundial en tecnologías de infraestructura flash e IA de NAND, y RedData, una división de RPI-CS, Inc., anunciaron hoy la disponibilidad de la tecnología de extensión de memoria GPU aiDAPTIV+ de Phison integrada en las soluciones seguras de RedData para Estados Unidos. Programas Federales de Clasificados. Tras la reciente publicación del Plan de Acción de IA de Estados Unidos, muchas agencias federales e integradores de sistemas se enfrentan a la implementación de la infraestructura de IA utilizando metodologías seguras y preparadas para el futuro. La colaboración entre Phison y RedData aborda estos requisitos críticos para una infraestructura de inteligencia artificial asequible, segura y local dentro de los casos de uso del gobierno, la comunidad de inteligencia y los laboratorios nacionales. Al aprovechar la solución de inteligencia artificial aiDAPTIV + de Phison, las agencias federales pueden acelerar de manera asequible la inferencia y escalar la capacitación del modelo de lenguaje grande (LLM) mientras mantienen el cumplimiento de los requisitos de entorno clasificado.

Las agencias federales enfrentan desafíos únicos para implementar IA debido a la seguridad, el cumplimiento y el costo prohibitivo de escalar los sistemas solo para tarjetas GPU. AiDAPTIV+ de Phison aborda estos desafíos ampliando la memoria de la GPU con un almacenamiento en caché basado en flash NAND de alta capacidad, lo que permite:
Implementación de IA clasificada y en las instalaciones sin dependencia de la nube pública comercial.
Capacidades de entrenamiento LLM ampliadas que admiten modelos de hasta 671B parámetros.
Una respuesta de inferencia más rápida acelera las aplicaciones de IA de Agtic a través de un tiempo de tiempo a primer token (TTFT) más rápido cuando la caché KV de la GPU está llena.
Reducción de los costes de infraestructura de IA mediante la ampliación de la VRAM de GPU con memoria basada en flash NAND económica.









.png)



Comentarios