Todo el mundo pensaba que TurboQuant, de Google, resolvería la crisis de la memoria, pero SK Hynix afirma que solo la agravará

Google TurboQuant fue visto como un salvador de la crisis de la memoria; desafortunadamente, las cosas seguirán siendo iguales o empeorarán aún más desde aquí.

Google TurboQuant no va a solucionar ni resolver la crisis de la memoria

En marzo, Google lanzó un nuevo algoritmo llamado TurboQuant, que comprimía significativamente la caché KV. El resultado fue un ahorro drástico, de hasta 6x, en los requisitos de memoria para las cargas de trabajo de IA. Tan pronto como se anunció el algoritmo, surgieron informes de que los precios de la memoria estaban viendo una drástica reducción de precios.

Era fácil vincular el TurboQuant de Google a la caída de precios, y algunos entraron en modo de pánico, vendiendo DRAM y módulos de memoria (utilizados por PC y computadoras portátiles) a precios reducidos, temiendo que el TurboQuant pusiera fin al auge de la memoria. Sin embargo, ese no fue el caso; los precios de la memoria se mantuvieron donde estaban días después de la exageración inicial, y continúan viendo una mayor demanda.

Desde la introducción de TurboQuant, el mercado de la memoria apenas ha sido testigo de una mella; de hecho, la demanda total de las empresas de inteligencia artificial ha seguido creciendo. En los últimos días, hemos visto a todas las principales empresas de inteligencia artificial expandirse e introducir nuevos productos para ampliar la inteligencia artificial para la era agática.

Y para aquellos que todavía tenían alguna esperanza para TurboQuant, bueno, la reciente declaración del CFO de SK Hynix entierra toda la narrativa de que abordaría la demanda de inteligencia artificial.

La optimización de software y hardware, que se está llevando a cabo activamente en toda la industria de la inteligencia artificial, es otro impulsor del crecimiento de la demanda de memoria. Aunque las tecnologías de eficiencia de memoria pueden parecer reducir el uso de memoria por dispositivo individual, en realidad están evolucionando en una dirección que maximiza la cantidad de contexto que se puede procesar por unidad de memoria. Se espera que esto mejore la economía de los servicios de inteligencia artificial, creando un ciclo virtuoso que expanda el mercado general de servicios de inteligencia artificial y, a su vez, también impulse la demanda de memoria. Kim Woo-hyun - SK Hynix CFO

SK Hynix afirma que las optimizaciones de software y hardware como Google TurboQuant solo aumentarán la demanda de memoria, en lugar de reducirla. Las principales empresas de inteligencia artificial están aumentando la cantidad de contexto que se puede procesar por unidad de memoria, y con las CPU convirtiéndose en el nuevo favorito en la era de la IA agórtica, el uso de la memoria solo se acelerará aún más. La demanda de la CPU ya está aumentando los precios en general como la memoria anterior, pero al igual que las GPU antes que todas, no hay pausa en la demanda a la vista.

Fuente: Wccftech