Intel Xeon 6 ofrece hasta 17 veces más rendimiento en IA que los resultados de 4 años de MLPerf

MLCommons ha publicado hoy los resultados de su conjunto de pruebas de rendimiento de IA estándar del sector, MLPerf Inference v4.1. Intel ha presentado los resultados de seis pruebas MLPerf para procesadores Intel Xeon Scalable de 5ª generación y, por primera vez, procesadores Intel Xeon 6 con núcleos de rendimiento (P-cores). Los procesadores Intel Xeon 6 con núcleos P lograron aproximadamente 1,9 veces la mejora geomeana en el desempeño de IA en comparación con los procesadores Xeon de 5ª generación.

«Los resultados más recientes de MLPerf demuestran que la inversión continua y la dotación de recursos son fundamentales para mejorar el rendimiento de la IA. En los últimos cuatro años, hemos subido el listón del rendimiento de la IA en los procesadores Intel Xeon hasta 17 veces basándonos en MLPerf. A medida que nos acercamos a la disponibilidad general a finales de este año, esperamos aumentar Xeon 6 con nuestros clientes y socios», dijo Pallavi Mahajan, vicepresidente corporativo de Intel y director general de Data Center y AI Software.

Los sistemas de IA requieren CPUs como componente crítico para desplegar con éxito soluciones en diversos escenarios. Intel Xeon proporciona una gran solución para la inferencia de IA, incluyendo el aprendizaje automático clásico y la incrustación de búsqueda vectorial.

Con MLPerf Inference v4.1, Intel presentó procesadores Intel Xeon de 5ª generación y procesadores Xeon 6 con núcleos P en ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 y GPT-J. En comparación con los procesadores Intel Xeon de 5ª generación, los procesadores Xeon 6 ofrecen un rendimiento de inferencia de IA 1,9 veces superior de media en estos seis benchmarks. Intel sigue siendo el único proveedor de procesadores para servidores que envía resultados de CPU a MLPerf.

En los últimos cuatro años, Intel ha logrado avances significativos en el desempeño de IA con CPU desde que presentó por primera vez los resultados de MLPerf. En comparación con los procesadores Intel Xeon Scalable de 3ª generación de 2021, Xeon 6 ofrece un rendimiento hasta 17 veces superior en el procesamiento de lenguaje natural (BERT) y hasta 15 veces superior en las cargas de trabajo de visión por ordenador (ResNet50). Intel sigue invirtiendo en IA para su hoja de ruta de CPU. Por ejemplo, sigue innovando con Intel Advanced Matrix Extensions (AMX) a través de nuevos tipos de datos y una mayor eficiencia.

Los últimos benchmarks de MLCommons destacan cómo los procesadores Xeon ofrecen sólidas soluciones de servidor de IA de CPU a los fabricantes de equipos originales (OEM). A medida que crece la necesidad de computación de IA y muchos clientes ejecutan cargas de trabajo de IA junto con sus cargas de trabajo empresariales, los OEM están priorizando las presentaciones de MLPerf para garantizar que ofrecen sistemas Xeon de alto rendimiento optimizados para cargas de trabajo de IA a los clientes.

Intel apoyó a cinco socios OEM - Cisco, Dell Technologies, HPE, Quanta y Supermicro - con sus presentaciones MLPerf en esta ronda. Cada cliente presentó resultados MLPerf con procesadores Xeon Scalable de 5ª generación, mostrando la compatibilidad de sus sistemas con una variedad de cargas de trabajo e implementaciones de IA.

Intel ofrecerá más información sobre los procesadores Xeon 6 con núcleos P durante un evento de lanzamiento en septiembre.