SanDisk y SK hynix impulsan la estandarización global de la memoria flash de alto ancho de banda con el lanzamiento de la primera especificación técnica de OCP.

Sandisk Corporation y SK hynix Inc. anunciaron hoy el lanzamiento de la especificación técnica HBF (High Bandwidth Flash) a través del Open Compute Project (OCP), avanzando en el flujo de trabajo para impulsar la estandarización de HBF para la era de la inferencia AI, solo seis meses después de que el consorcio comenzara a trabajar en febrero.

La especificación se desarrolló a través de la corriente de trabajo de tecnología HBF bajo OCP, con Sandisk y SK hynix sirviendo como contribuyentes principales. En particular, Google y Tenstorrent se unieron como miembros del consorcio durante este proceso de estandarización, contribuyendo significativamente a la validación de la tecnología y el establecimiento del estándar. La especificación proporciona a las empresas y desarrolladores que diseñan sistemas de inferencia de IA y aceleradores un marco técnico común para incorporar la tecnología HBF donde se necesita una mayor capacidad de memoria casi computarizada y un mayor ancho de banda para mejorar las métricas de potencia y rendimiento y ayudar a reducir el costo total de propiedad.

Los sistemas modernos de inferencia de IA necesitan una memoria de alto ancho de banda ubicada cerca de los núcleos de cálculo, mientras que la demanda de una mayor capacidad de memoria de casi computación continúa creciendo con los requisitos de grandes modelos de lenguaje y cargas de trabajo de IA emergentes. La tecnología HBF está diseñada para abordar esta necesidad mediante la combinación de alto ancho de banda con alta capacidad, ayudando a los diseñadores de sistemas de centros de datos a mejorar la interactividad y el rendimiento durante el servicio de modelos.

"La inferencia de IA está creando un nuevo conjunto de requisitos de memoria, y la tecnología HBF está diseñada para cumplir con ese momento", dijo Alper Ilkbahar, Director de Tecnología de Sandisk. "Esta especificación ayuda a dar a los diseñadores de sistemas un camino práctico para acercar la memoria de alta capacidad y alto ancho de banda a la computación, al tiempo que permite arquitecturas más flexibles. Es un hito importante para el ecosistema de HBF y para la próxima generación de sistemas de IA construidos para mejorar la economía de tokens a escala".

La especificación define la interfaz del sistema, las pautas eléctricas y otras directrices técnicas para diseñar sistemas que interactúan y utilizan la tecnología HBF, incluidas las expectativas básicas de rendimiento, la interfaz de host xPU-HBF, la guía de confiabilidad y empaquetado para una pila de troqueles HBF y una guía de usuario de software para operaciones de lectura y escritura. Como uno de los primeros estándares técnicos de este tipo en la industria de la memoria y el almacenamiento, la especificación ayuda a dar a los diseñadores de sistemas de computación de IA una mayor flexibilidad para construir sistemas donde la tecnología HBF puede coexistir con la memoria de alto ancho de banda, lo que ayuda a respaldar la preparación del ecosistema.

La especificación se publicó dentro del marco de Open Compute Project, lo que significa que la información está disponible abiertamente para la industria. Sandisk y SK hynix publicaron proactivamente la especificación para posicionar la tecnología HBF como el estándar de facto en el mercado de almacenamiento de IA en rápida evolución. Su estrategia consiste en fomentar un ecosistema en etapa inicial, aumentar la visibilidad de la adopción de la tecnología HBF para los clientes y acelerar la expansión del mercado y la madurez tecnológica a través de la colaboración abierta y la membresía en el consorcio.

Sandisk Keynote: NAND - La Fundación Versátil y Escalable de la Era de la IA

El miércoles 5 de agosto, a las 11:40 a.m. PT, la conferencia principal de Sandisk en la Conferencia del Futuro de la Memoria y el Almacenamiento (FMS) en el Centro de Convenciones de Santa Clara explorará la importancia de la optimización a nivel de sistema y NAND para permitir la inferencia de IA a escala. La conferencia presentará a Jim Elliott de Sandisk, director de ingresos; Khurram Ismail, director de producto; y Alper Ilkbahar, director de tecnología.

Mesa redonda de FMS: romper la pared de la memoria con el flash de alto ancho de banda

El jueves 6 de agosto, a las 9:45 a.m. PT, Sandisk, SK hynix y Google presentarán una mesa redonda organizada por Thomas Coughlin, Presidente de Coughlin Associates, en la Conferencia The Future of Memory and Storage (FMS) en el Centro de Convenciones Santa Clara, Sala D. La sesión discutirá cómo la tecnología HBF tiene como objetivo redefinir la jerarquía de memoria al proporcionar velocidades de memoria cercanas a la densidad y persistencia de flash de alto ancho de banda. El panel reunirá a expertos de proveedores de soluciones de HBF, así como a un proveedor de infraestructura de hiperescala-IA, para analizar el uso y desarrollo de la tecnología HBF necesario para el éxito, incluida la integración arquitectónica, los desafíos técnicos, los plazos de estandarización, el rendimiento y la economía.