top of page
IG.png

Phison colabora con Intel para llevar cargas de trabajo de IA locales de mayor envergadura a las plataformas de PC con IA de Intel

  • Foto del escritor: Masterbitz
    Masterbitz
  • 2 jun
  • 4 min de lectura

Phison Electronics (8299TT), líder mundial en controladores flash y soluciones de almacenamiento NAND, anunció hoy una colaboración con Intel para permitir que los PC de IA implementen aplicaciones de inteligencia artificial más grandes y capaces a nivel local. La colaboración combina los procesadores Intel Core Ultra Series 3 con Pascari aiDAPTIV de Phison, una solución de extensión de memoria que desbloquea sistemas con restricciones de memoria para admitir modelos de IA de mezcla de expertos (MoE) más grandes, sesiones de inteligencia artificial de mayor duración y flujos de trabajo de IA actónicos.

Hoy en día, los PC de IA están ir más allá de las aplicaciones de asistente simple hacia casos de uso de IA locales más avanzados. Estas soluciones ahora admiten usuarios finales y empresas en el análisis de documentos, la ejecución de flujos de trabajo de varios pasos y la protección de datos privados, al tiempo que reducen la dependencia de los servicios de inteligencia artificial solo en la nube. Como estas cargas de trabajo pueden requerir modelos de IA más grandes, un estado de sesión persistente y una gran dependencia de la memoria, muchos usuarios están mirando hacia la próxima generación de sistemas de cliente con la capacidad de memoria requerida para soportarlos.

 

aiDAPTIV aborda este desafío al extender la memoria de trabajo de IA efectiva a través de la DRAM del sistema y el flash NAND de alto rendimiento y resistencia extrema utilizando la memoria caché Pascari aiDAPTIV. Al reducir la DRAM requerida para ciertas cargas de trabajo de IA locales y admitir funciones de tiempo de ejecución como la reutilización de caché de KV, aiDAPTIV ayuda a que las cargas de trabajo de IA más grandes se ejecuten localmente en plataformas de PC de Intel AI. En las pruebas de Phison, aiDAPTIV permitió que un modelo de 26B parámetros se ejecutara en un sistema con 16 GB de DRAM, en comparación con los 32 GB de DRAM requeridos sin aiDAPTIV en el mismo entorno de prueba.


La colaboración se centra en permitir la tecnología de Phison en las plataformas de PC Intel AI impulsadas por procesadores Intel Core Ultra, incluido el soporte para el kit de herramientas OpenVINO. Juntos, Phison e Intel están trabajando para apoyar las evaluaciones de ISV, demostraciones técnicas y cargas de trabajo optimizadas para reclamos de rendimiento público.


"Los PC de IA están evolucionando hacia plataformas para cargas de trabajo de IA locales más sofisticadas, incluidas aplicaciones agenticales y modelos de MoE más grandes que imponen una creciente demanda de capacidad de memoria y capacidad de respuesta", dijo KS Pua, CEO y fundador de Phison Electronics. "A través de nuestra colaboración con Intel, aiDAPTIV ayuda a expandir la memoria necesaria disponible para las cargas de trabajo de IA en las plataformas de PC Intel AI, lo que permite a los OEM, desarrolladores y usuarios finales ejecutar aplicaciones de IA más capaces localmente mientras mantienen la privacidad y la eficiencia de la infraestructura".


En Computex, Phison presentará demos habilitadas para aiDAPTIV en plataformas de PC Intel AI. Phison e Intel demostrarán una interfaz de usuario de chat local que ejecuta un modelo de IA MoE que normalmente excedería la memoria del sistema disponible, exhibiendo cómo aiDAPTIV extiende la memoria de trabajo efectiva de IA utilizando la memoria caché Pascari aiDAPTIV. Phison también demostrará una aplicación híbrida de enrutamiento LLM basada en OpenClaw, un marco de agente de inteligencia artificial de código abierto, que destaca cómo los modelos de IA de MoE más grandes pueden ejecutarse localmente con aiDAPTIV al tiempo que reduce la dependencia del uso de tokens en la nube, con el enrutamiento en la nube disponible cuando sea necesario para solicitudes más complejas.


El stand de Phison también contará con demostraciones de socios del ecosistema de software de IA, incluidos Ollama, LLMWare, TurinTech, Intel AI Superbuilder e Intel AI Playground, que muestran aiDAPTIV en acción en todas las aplicaciones de inteligencia artificial locales del mundo real. El escaparate del ecosistema también incluirá colaboraciones de plataformas de hardware con ASUS, MSI y Acer.


"La memoria es un factor limitante en la ejecución de muchos de los modelos más capaces en el hardware del cliente", dijo Michael Chiang, cofundador de Ollama. "El enfoque aiDAPTIV de Phison en las plataformas de PC Intel AI podría permitir que las personas ejecuten modelos mucho más grandes localmente de lo que su hardware normalmente permite".


"Enterprise GenAI se está moviendo hacia flujos de trabajo locales prácticos, incluidos RAG, agentes y modelos específicos de dominio", dijo Darren Oberst, cofundador y CTO de LLMWare. "El enfoque aiDAPTIV de Phison es prometedor porque puede ayudar a los sistemas de clientes de Intel AI PC a admitir modelos más grandes y aplicaciones de inteligencia artificial locales más capaces mientras mantienen los datos más cerca del usuario".


"Trabajar con Intel y Phison nos permite llevar la optimización de código impulsada por la IA a los flujos de trabajo prácticos, en los flujos de trabajo de los dispositivos, donde el rendimiento, la privacidad y la disciplina de costos son críticos", dijo Kee-Meng Tan, Director de Operaciones de TurinTech AI. "Al combinar Artemis con las PC de Intel AI y el enfoque de memoria alternativa de Phison, podemos admitir cargas de trabajo de inteligencia artificial locales más grandes y capaces sin exigir una memoria del sistema cada vez mayor".


"Más usuarios y empresas quieren ejecutar la inteligencia artificial localmente, más rápido, más privado y sin el costo de enviar todo a la nube", dijo Jim Johnson, vicepresidente senior y gerente general de computación de clientes de Intel. "Nuestra colaboración con Phison permite a las plataformas de Intel AI PC admitir mayores cargas de trabajo de IA locales con configuraciones de memoria más simples, por lo que los clientes pueden convertir sus propios datos en aplicaciones útiles y un valor comercial real a un costo total más bajo".

Comentarios


Aplus_MARS_2107_Eng(1).png
undefined - Imgur(1).jpg

Siguenos

  • Facebook
  • Twitter
  • YouTube
  • Instagram
gaming

© 2016 Derechos Reservados a MasterbitzReviewHN

bottom of page