NEO Semiconductor anuncia el chip 3D X-AI como sucesor de HBM

NEO Semiconductor, líder en el desarrollo de tecnologías innovadoras para memorias flash NAND 3D y DRAM 3D, ha anunciado hoy el desarrollo de su tecnología de chip 3D X-AI, destinada a sustituir a los actuales chips DRAM dentro de la memoria de alto ancho de banda (HBM) para resolver los cuellos de botella del bus de datos permitiendo el procesamiento de IA en la DRAM 3D. 3D X-AI puede reducir la enorme cantidad de datos transferidos entre la HBM y las GPU durante las cargas de trabajo de IA. La innovación de NEO está llamada a revolucionar el rendimiento, el consumo de energía y el coste de los chips de IA para aplicaciones de IA como la IA generativa.

Los chips de IA con la tecnología 3D X-AI de NEO pueden conseguir:

Aceleración del rendimiento 100X: contiene 8.000 circuitos neuronales para realizar el procesamiento de IA en memoria 3D.

99% de reducción de consumo: minimiza la necesidad de transferir datos a la GPU para su cálculo, reduciendo el consumo de energía y la generación de calor por el bus de datos.

Densidad de memoria 8X: contiene 300 capas de memoria, lo que permite a HBM almacenar modelos de IA de mayor tamaño.

"Andy Hsu, fundador y CEO de NEO Semiconductor, afirma: "Los chips de inteligencia artificial actuales derrochan grandes cantidades de rendimiento y energía debido a ineficiencias arquitectónicas y tecnológicas. "La arquitectura actual de los chips de IA almacena los datos en HBM y depende de una GPU para realizar todos los cálculos. Esta arquitectura separada de almacenamiento y procesamiento de datos convierte el bus de datos en un cuello de botella inevitable para el rendimiento. La transferencia de enormes cantidades de datos a través del bus de datos provoca un rendimiento limitado y un consumo de energía muy elevado. 3D X-AI puede realizar el procesamiento de IA en cada chip HBM. Esto puede reducir drásticamente los datos transferidos entre la HBM y la GPU para mejorar el rendimiento y reducir drásticamente el consumo de energía".

Un solo chip 3D X-AI incluye 300 capas de celdas DRAM 3D con 128 GB de capacidad y una capa de circuito neuronal con 8.000 neuronas. Según las estimaciones de NEO, esto puede soportar hasta 10 TB/s de rendimiento de procesamiento de IA por troquel. Si se utilizan doce chips 3D X-AI apilados con HBM, se puede alcanzar un rendimiento de procesamiento de 120 TB/s, lo que multiplica por 100 el rendimiento.

"La aplicación de la tecnología 3D X-AI puede acelerar el desarrollo de casos de uso de IA emergentes y promover la creación de otros nuevos", afirma Jay Kramer, Presidente de Network Storage Advisors. "Aprovechar la tecnología 3D X-AI para crear la próxima generación de Chips de IA optimizados desencadenará una nueva era de innovación para las aplicaciones de IA".

Fuente: NEO Semiconductor