Qualcomm y AMD adoptarán la memoria SOCAMM2 en sus productos de IA

Según los informes, Qualcomm y AMD están considerando la integración de la memoria SOCAMM2 en sus líneas de productos de inteligencia artificial para mejorar la capacidad y la velocidad de la memoria. Siguientes CPU "Vera" de NVIDIA, que cuenta con memoria LPDDR5X en el factor SOCAMM, que ofrece 1,2 TB/s de ancho de banda de memoria y soporta hasta 1,5 TB de memoria LPDDR5X, Qualcomm y AMD tienen como objetivo perseguir una estrategia similar para lograr sistemas de inteligencia artificial de alta velocidad y alta capacidad. Estos sistemas requieren una memoria rápida cerca de los aceleradores de IA, y SOCAMM puede complementar la amplia memoria HBM en los aceleradores. Actúa como un grupo de memoria rápida con capacidad suficiente para almacenar modelos completos en la memoria, reduciendo la necesidad de transferencia de datos al almacenamiento flash SSD.

El enfoque SOCAMM de NVIDIA implica rodear la CPU con múltiples módulos SOCAMM, una estrategia que se espera que Qualcomm y AMD adopten en sus soluciones de IA. Los aceleradores Instinct MI de AMD, emparejados con CPU EPYC, podrían ser los próximos candidatos para esta integración, o AMD puede desarrollar un sistema completamente nuevo. Qualcomm ya ofrece soluciones de IA como los aceleradores de inferencia AI200 y AI250, que incluyen hasta 768 GB de LPDDR5 por tarjeta. Estos pronto podrían complementarse con SOCAMM, lo que permite la expansión de memoria estandarizada basada en el estándar SOCAMM en lugar de soldar módulos de memoria individuales. Este enfoque permitiría a los fabricantes ofrecer varias versiones y soluciones de sistemas simplemente agregando o eliminando módulos SOCAMM, sin la necesidad de un extenso trabajo de soldadura de PCB.

Fuente: Hankyung