NVIDIA prepara un estándar de memoria «SOCAMM» para PC con IA similar al Project DIGITS

NVIDIA y sus socios fabricantes de memorias, SK Hynix, Samsung y Micron, están preparando un nuevo formato de memoria denominado en breve System on Chip Advanced Memory Module-SOCAMM. Esta tecnología, que se adapta al ya conocido estándar de módulos de memoria CAMM, pretende aportar densidad de memoria adicional a los sistemas NVIDIA. Inspirada en el Proyecto DIGITS de NVIDIA, ha sido desarrollada de forma independiente por NVIDIA al margen de cualquier consorcio oficial de memoria como JEDEC. Utilizando un diseño de módulo desmontable, SOCAMM ofrece especificaciones superiores a las de las soluciones existentes, con 694 puertos de E/S (frente a los 644 de LPCAMM y los 260 de la DRAM tradicional), integración directa del sustrato de memoria LPDDR5X y un factor de forma más compacto.

Como referencia, la actual generación de Project DIGITS utiliza el superchip Grace Blackwell GB10 de NVIDIA, capaz de proporcionar un PetaFLOP de cálculo FP4, combinado con 128 GB de memoria LPDDR5X. Esta configuración limita el tamaño de los modelos de IA que se ejecutan localmente en el dispositivo, lo que permite ejecutar hasta 200.000 millones de modelos de parámetros en un único PC de IA del Proyecto DIGITS. Para modelos como Llama 3.1 405B, con 405.000 millones de parámetros, se necesitan dos PC Project DIGITS apilados. Lo más interesante es que la capacidad de memoria es el principal factor limitante; de ahí que NVIDIA dedique su tiempo a desarrollar un estándar SOCAMM más denso en memoria. Al ser un sustituto compatible con LPDDR5, puede utilizar el mismo IP de silicio controlador con sólo modificar el sustrato del SoC para adaptarlo a la nueva memoria. Dado que se rumorea que NVIDIA entrará en el mercado de PC de consumo este año, también podríamos ver una implementación temprana en productos de PC de consumo, pero la próxima generación de Project DIGITS es el objetivo principal.

Fuentes: SEDaily, vía Tom's Hardware