Se estima que la capacidad de adquisición de SSD de IA superará los 45 EB en 2024; los proveedores de NAND Flash aceleran la actualización de procesos

El último informe de TrendForce sobre unidades SSD para empresas revela que el aumento de la demanda de IA ha llevado a los clientes de servidores de IA a incrementar significativamente sus pedidos de unidades SSD para empresas en los dos últimos trimestres. Los proveedores han acelerado la mejora de los procesos y la planificación de los productos 2YY, cuya producción masiva está prevista para 2025, con el fin de satisfacer la creciente demanda de SSD para aplicaciones de IA.

TrendForce observa que el aumento de los pedidos de unidades SSD para empresas por parte de clientes de servidores de IA ha provocado un incremento de los precios contractuales de esta categoría de más del 80% entre el 4T23 y el 3T24. Las SSD desempeñan un papel crucial en el desarrollo de la IA. En el entrenamiento de modelos de IA, las SSD almacenan principalmente los parámetros del modelo, incluidas las ponderaciones evolutivas y las desviaciones.

Otra aplicación clave de las SSD es la creación de puntos de control para guardar periódicamente el progreso del entrenamiento de modelos de IA, lo que permite la recuperación desde puntos específicos en caso de interrupciones. Debido a la gran dependencia de la transferencia rápida de datos y la resistencia superior a la escritura para estas funciones, los clientes suelen optar por SSD TLC de 4 TB/8 TB para satisfacer los exigentes requisitos del proceso de entrenamiento.

TrendForce señala que las SSD utilizadas en los servidores de inferencia de IA ayudan a ajustar y optimizar los modelos de IA durante el proceso de inferencia. En concreto, las SSD pueden actualizar los datos en tiempo real para ajustar los resultados de los modelos de inferencia. La inferencia de IA proporciona principalmente servicios de generación aumentada por recuperación (RAG) y LLM. Los SSD almacenan los documentos de referencia y las bases de conocimiento que RAG y LLM utilizan para generar respuestas más informativas. Además, a medida que se muestra más información generada en forma de vídeos o imágenes, también aumenta la capacidad de almacenamiento necesaria, por lo que las SSD de alta capacidad, como las TLC/QLC de 16 TB o más, son la opción preferida para las aplicaciones de inferencia de IA.

La tasa de crecimiento de la demanda de SSD de IA supera el 60%, ya que los proveedores aceleran el desarrollo de productos de alta capacidad

En 2024, el mercado de demanda de SSD para servidores de IA ha experimentado un aumento significativo de la demanda de productos de más de 16 TB a partir del segundo trimestre. Con la llegada de los productos de las series H100, H20 y H200 de NVIDIA, los clientes han empezado a aumentar aún más sus pedidos de unidades SSD TLC para empresas de 4 TB y 8 TB. TrendForce estima que este año la capacidad de adquisición de SSD relacionadas con la IA superará los 45 EB. En los próximos años, se espera que los servidores de IA impulsen una tasa media de crecimiento anual de más del 60% en la demanda de SSD, con un aumento potencial de la demanda de SSD de IA del 5% del consumo total de NAND Flash en 2024 al 9% en 2025.

Los servidores de inferencia de IA seguirán adoptando productos SSD de alta capacidad. Los proveedores ya han comenzado a acelerar las actualizaciones de procesos y aspiran a la producción en masa de productos de 2YY/3XX capas a partir del 1T25, así como a la eventual producción de productos SSD empresariales de 120 TB.

Fuente: TrendForce