El Neural Engine de doble núcleo y 16 núcleos del A20 Pro tiene un rendimiento de cómputo máximo superior al de su GPU de 7 núcleos, pero solo en el caso de cargas de trabajo especializadas.

No hace falta decir que el A20 Pro es realmente una maravilla cuando se trata de chipsets de teléfonos inteligentes, con la última mirada a sus puntuaciones de un solo núcleo y multi-core que consolidan su reputación en la industria. Sin embargo, todavía estamos aprendiendo sobre las impresionantes hazañas del SoC, y la última es que se dice que su motor neuronal dual de 16 núcleos tiene un cálculo máximo más alto que su GPU de 7 núcleos, suponiendo que esas cargas de trabajo están específicamente hechas a medida para la NPU.

Ejecutar modelos de IA más pequeños de 3B en el dispositivo y un procesamiento rápido serían tareas específicas para el motor neuronal dual de 16 núcleos del A20 Pro, que ofrece inmensas ganancias de rendimiento máximas

En X, Max Weinbach mencionó un hecho divertido sobre el A20 Pro y el M6; las ganancias de rendimiento introducidas por el motor neuronal dual de 16 núcleos pueden superar las de la GPU, suponiendo que esas tareas se aprovechen específicamente de ella. Naturalmente, las cargas de trabajo gráficamente intensivas o las animaciones particulares se moverían a menos del ritmo de un caracol si el Motor Neuronal tiene que abordarlas.

En cambio, los modelos de IA más pequeños con parámetros 3B o procesamiento rápido pueden ser manejados fácilmente por el nuevo Motor Neuronal, lo que resulta en toneladas de gastos generales disponibles para la CPU y la GPU. Además, el procesamiento rápido durante la etapa de prellenado para modelos de IA cuantificados se asigna directamente a las tuberías de Neural Engine, lo que lo convierte en otra carga de trabajo diseñada específicamente para este componente.

El reconocimiento de voz en el dispositivo o las mejoras de audio en tiempo real también están hechas a medida para la NPU, al igual que las características de visión como la estimación de la profundidad de la cámara en tiempo real, el desenfoque de fondo, el reconocimiento de texto y la segmentación de imágenes. Sin embargo, como usted sabe, varias tareas se reducirán a la CPU y la GPU, como las operaciones matemáticas de punto flotante de FP32 o 64 bits no cuantificadas, o tensores que cambian su forma dinámicamente.

Volviendo a la IA en el dispositivo, la generación de LLM de un solo token puede sufrir de sobrecarga de despacho de Neural Engine, haciendo que la CPU o la GPU sean más adecuadas para esta carga de trabajo. Los primeros envíos de iPhone 18 Pro, iPhone 18 Pro Max y iPhone Duo aún no se han lanzado, pero eventualmente nos encontraremos con algunas tareas diseñadas específicamente para el motor neuronal dual de 16 núcleos, que proporcionará una mejor ilustración de lo que esta actualización realmente puede hacer, así que mantente atento.

Fuente de la noticia: Max Weinbach