La importancia de los HBM y la DRAM está disminuyendo; esta es la «actualización silenciosa» que los gigantes de la IA se apresuran a adquirir antes de que llegue la próxima gran ola

A medida que los hiperescaladores continúan aumentando sus inversiones masivas para aumentar la capacidad, hay una creciente comprensión de que arriesga sus elevadas ambiciones: el consumo de energía, las limitaciones de espacio físico y el aumento de los precios de la memoria HBM y DRAM que solo se acumularán debido a la capacidad estancada. Afortunadamente, un nuevo informe se sumerge en un nuevo componente que ayudará a acelerar los objetivos de los hiperescaladores, y con la capacidad en constante expansión, esta parte se convertirá en un actor clave en esta industria en particular.

Samsung y SK hynix están liderando el mercado de eSSD QLC de alta capacidad, ayudando a elevar la carga de los centros de datos de IA a medida que HBM y DRAM se convierten en el cuello de botella de inferencia

Anteriormente hemos informado que Samsung ha aumentado la producción de flash V10 NAND para NVIDIA para contener el crecimiento abrumador de las GPU y centros de datos de IA a través de una tecnología llamada Context Memory Storage (CMX). Según ZDNet, ahora se converge el mismo enfoque en el mercado empresarial de SSD, donde los fabricantes de memoria Samsung y SK hynix buscan ayudar a los hiperescaladores a reducir el espacio del servidor y el consumo de energía mientras sonríen hasta el banco.

Estos fabricantes ahora están liderando desde el frente con eSSD basados en QLC de alta capacidad. Si bien los SSD QLC (Célula de Nivel Cuádruple) son menos duraderos que las unidades TLC (Célula de Triple Nivel) y MLC (Célula de Nivel Múltiple), pueden albergar más capacidad por unidad mientras cuestan menos, conservando cantidades masivas de espacio para hiperescaladores. Para minimizar el nivel de desgaste en estas unidades, los clientes pueden optar por realizar pedidos más grandes, llenando sus centros de datos hasta el borde.

Con estos eSSD, la carga en la memoria de la GPU para almacenar toneladas de datos de contexto temporal conocidos como caché de valor de clave (KV) se reducirá sustancialmente, ayudando a los chips gráficos a preservar sus ciclos de lanzamiento y al mismo tiempo a reducir los costos operativos diarios de los centros de datos de IA. TrendForce informa que los precios de los contratos de eSSD han aumentado en aproximadamente un 80 por ciento, ya que este componente está evolucionando lentamente desde un medio de almacenamiento simple a uno que descarga y admite cargas de trabajo de IA agotadoras.

Junto con los eSSD, sus controladores de almacenamiento también tienen la misma importancia, y se dice que Pado se convertirá en beneficiario debido a este asombroso crecimiento, al igual que Samsung y SK hynix. El único inconveniente, que los lectores son muy probablemente conscientes, es que la creciente demanda de almacenamiento por parte de los hiperescaladores conducirá a aumentos masivos de precios, lo que significa que los SSD de consumo, que ya se han vuelto caros debido a las secuelas de la crisis de DRAM, se volverán inasequibles para las masas.

Fuente de noticias: ZDNet