Las acciones de los fabricantes de DRAM caen tras el anuncio de Google sobre TurboQuant.

Los precios de las acciones de los fabricantes de DRAM cayeron hasta en un 19% en los últimos 5 días, durante el anuncio del 24 de marzo de Google TurboQuant, una nueva tecnología que Google afirma que reducirá la huella de memoria de los modelos de IA en un factor de 6, y las velocidades de inferencia en un factor de 8. Al momento de escribir este artículo, Micron Technology (NASDAQ: MU) cayó un 19,5% en los últimos 5 días. En Corea, SK Hynix vio caer su precio de las acciones en un 6%, mientras que Samsung Electronics vio una caída en un 5%.

TurboQuant es un algoritmo de cuantificación avanzado desarrollado por Google que ofrece una compresión masiva de datos para los LLM y los motores de búsqueda vectoriales. Aborda eficazmente los cuellos de botella de la memoria en la caché clave-valor y acelera las búsquedas de similitud sin sacrificar la precisión del modelo. TurboQuant logra esta eficiencia al combinar dos técnicas novedosas: PolarQuant, que simplifica la geometría de datos utilizando coordenadas polares para eliminar la sobrecarga de memoria tradicional, y Quantized Johnson-Lindenstrauss (QJL), un corrector de errores matemático de 1 bit. Capaz de comprimir la caché de valor de clave a solo 3 bits sin requerir ajuste fino, TurboQuant permite tiempos de ejecución hasta 8 veces más rápidos en las GPU, estableciendo un nuevo estándar para la eficiencia de la IA.

Fuentes: CNBC, Google TurboQuant