Los precios de la memoria no bajarán aunque la escasez remita, advierte una empresa de investigación coreana: los hiperescaladores tienen contratos a largo plazo

A medida que la memoria continúa dominando la conversación de hardware de inteligencia artificial, una nota de investigación de Korea Investment & Securities (KIS) describe que los precios podrían no bajar. Dado que la memoria está directamente vinculada a la productividad de una GPU de IA, los hiperescaladores han realizado pedidos a largo plazo de capacidad. KIS cree que incluso si transcurre este período de tiempo, el impacto de la escasez en los precios de la memoria podría persistir debido a la capacidad de los chips para impulsar métricas clave del rendimiento de la GPU de IA.

La Capacidad De Los Chips De Memoria Para Aumentar El Rendimiento Del Nivel Del Sistema Podría Mantener Los Precios Altos, Dice La Firma De Investigación

La nota de investigación explica que, dado que la expansión de la capacidad de memoria aumenta la utilización de una GPU, termina haciendo que una GPU sea más rentable, ya que se pueden procesar más tokens. Por lo tanto, las empresas de inteligencia artificial han pedido más chips de memoria para reforzar la eficiencia y reducir el costo por token procesado. Dado que más memoria permite más tokens que se encuentran muy cerca de una GPU, la capacidad de la GPU para procesar más tokens aumenta ya que no tienen que ser "transferidos" desde dispositivos de almacenamiento.

Según KIS, no solo el aumento de la eficiencia ha llevado a los hiperescaladores a realizar pedidos para la capacidad a largo plazo, sino que esta tendencia también podría continuar en el futuro.

Como resultado, los precios de la memoria DRAM, que actualmente son tres veces más altos anualmente, podrían mantenerse más altos a pesar de que el mercado espera que los desciendan o la demanda, explica la firma de investigación. KIS agrega que el punto de vista del mercado podría ser defectuoso, ya que a pesar de que los precios son más altos, la recompensa por la mayor utilización de las GPU es más alta, ya que más memoria permite un mayor rendimiento a nivel del sistema en lugar de por el rendimiento del chip.

La firma agrega que la alta demanda de módulos de memoria HBM y DRAM y la capacidad ajustada resultante también está llevando a una mayor demanda de chips NAND. Esta demanda va en contra de la creencia de que una mayor demanda de chips NAND podría aliviar la presión en el mercado de DRAM, ya que las empresas están trabajando para integrar NAND en los sistemas de inteligencia artificial. Otro factor que soporta la alta demanda sostenida de NAND es el precio más bajo en comparación con la DRAM que permite una mayor elasticidad en caso de una demanda incluso extremadamente alta.

La estrecha capacidad de HBM y la demanda de los hiperescaladores de IA también están impulsando la innovación en el sector con empresas como SK hynix que buscan aumentar el número de matrices de memoria en un solo chip a través de técnicas como la unión híbrida para eliminar los golpes de cobre del paquete.

Fuente: Wccftech