Las plataformas Intel AI aceleran los modelos Microsoft Phi-3 GenAI

Intel ha validado y optimizado su cartera de productos de IA en cliente, periferia y centro de datos para varios de los modelos abiertos de la familia Phi-3 de Microsoft. La familia Phi-3 de modelos pequeños y abiertos puede ejecutarse en hardware de menor computación, ajustarse más fácilmente para satisfacer requisitos específicos y permitir a los desarrolladores crear aplicaciones que se ejecuten localmente. Los productos compatibles de Intel incluyen aceleradores Intel Gaudi AI y procesadores Intel Xeon para aplicaciones de centros de datos y procesadores Intel Core Ultra y gráficos Intel Arc para cliente.

«Proporcionamos a clientes y desarrolladores potentes soluciones de IA que utilizan los últimos modelos y software de IA del sector. Nuestra colaboración activa con otros líderes del ecosistema de software de IA, como Microsoft, es clave para llevar la IA a todas partes. Estamos orgullosos de trabajar estrechamente con Microsoft para garantizar que el hardware de Intel, que abarca el centro de datos, el perímetro y el cliente, sea compatible de forma activa con varios de los nuevos modelos Phi-3", afirmó Pallavi Mahajan, vicepresidente corporativo de Intel y director general de Data Center y AI Software.

Como parte de su misión de llevar la IA a todas partes, Intel invierte continuamente en el ecosistema de software de IA colaborando con líderes e innovadores de IA.

Intel trabajó con Microsoft para habilitar la compatibilidad con el modelo Phi-3 para sus unidades centrales de procesamiento (CPU), unidades de procesamiento gráfico (GPU) y aceleradores Intel Gaudi el día del lanzamiento. Intel también co-diseñó la abstracción del acelerador en DeepSpeed, que es una suite de software de optimización de aprendizaje profundo fácil de usar, y amplió el soporte de paralelismo tensorial automático para Phi-3 y otros modelos en Hugging Face.

El tamaño de los modelos Phi-3 es idóneo para la inferencia en dispositivos y hace posible el desarrollo de modelos ligeros, como el ajuste fino o la personalización en PC de IA y dispositivos de vanguardia. El hardware cliente de Intel se acelera a través de completos marcos y herramientas de software, incluidos PyTorch e Intel Extension for PyTorch utilizados para la investigación y el desarrollo local y OpenVINO Toolkit para el despliegue y la inferencia de modelos.

Próximos pasos: Intel se compromete a satisfacer las necesidades de IA generativa de sus clientes empresariales y seguirá dando soporte y optimizando el software para Phi-3 y otros modelos de lenguaje punteros.