Tachyum anuncia detalles de su DIMM DDR5 (TDIMM) de 281 GB/s

Tachyum anunció hoy detalles sobre cómo su TDIMM está trayendo el futuro de la IA y la computación, permitiendo a los modelos de IA con parámetros de muchos órdenes de magnitud mayores que los de cualquier solución existente a una fracción del costo. TDIMM es clave para reducir el costo estimado del centro de datos OpenAI de $ 3 billones y 250,000 megavatios de potencia a $ 27 mil millones y 540 megavatios.

Prodigy Ultimate proporciona hasta 21x mayor rendimiento de rack de IA que NVIDIA Rubin Ultra NVL576. El aumento de ancho de banda de Tachyum DDR5 DIMM (TDIMM) es de 5,5 veces, de 51 GB/s a 281 GB/s. Los 24 canales de Prodigy Ultimate proporcionan 6,7 TB/s, 11x de aumento sobre CPU de 12 canales. El TDIMM admite 256 GB en estándar, 512 GB de altura y 1 TB en altura extra, y TSV aumenta la capacidad hasta 8 veces a 3 PB por nodo Prodigy.

   

El RDIMM DDR5 existente proporciona datos de 64 bits, ECC de 16 bits, 40 DQS, 14 C/A y 16 señales de control para un total de 146 señales en un conector de 288 pines. Tachyum TDIMM proporciona datos de 128 bits, ECC de 16 bits, 36 DQS, 14 C/A y 16 señales de control para un total de 206 señales en un conector de 484 pines, solo aumenta el 38% de señales para duplicar el ancho de banda de memoria. Desde una perspectiva de costo, TDIMM necesita un 10% menos de DRAM y se espera que sea un 10% menor.

Las dimensiones físicas de los conectores y DIMM son las mismas que para DDR5 RDIMM, y para DDR5 MRDIMM alto. El TDIMM extra alto duplica aún más la capacidad cuando el gabinete del servidor es 3U en lugar de 2U, que es la altura típica del servidor hoy en día. Los pasadores de contacto tienen un paso de 0,5 mm, el mismo que DDR5 SODIMM, por lo que no es necesario desarrollar nuevos contactos. Solo el molde de plástico necesita ser modificado, que es una tarea de ingeniería de baja intensidad.

El DDR5 x4 RDIMM activa 20 chips DRAM y TDIMM solo 18 chips DRAM por acceso, ahorrando energía. El DDR5 RDIMM conmuta 124 pines (64+16+40+2+2) a una velocidad alta y TDIMM conmuta 184 pines (128+16+36+2+2). Se espera que el consumo de energía TDIMM sea un 30% más alto para el ancho de banda de 2x. El uso de chips DRAM más nuevos pondrá el consumo de energía TDIMM en aproximadamente el mismo nivel que el RDIMM DDR5 más antiguo.

El DDR5 TDIMM duplica el ancho de banda y la capacidad de DDR5 RDIMM o MRDIMM sin esperar años para una memoria DDR6 costosa. El TDIMM cuadruplica el ancho de banda en comparación con DDR5 RDIMM. El controlador DDR5 existente y los cambios de IP PHY son simples aumentando la ruta de datos de 80 bits a 144 bits. Los chips de comando / dirección y memorias intermedias de datos no necesitan cambiar, lo que hace que la adopción sea de menos de un año a partir de ahora.

Los cambios menores en los chips controladores DDR6, PHY y MRDIMM duplicarán el ancho de banda de 6,7 TB/s a 13,5 TB/s en 2027, superando los 13 TB/s de NVIDIA Rubin. La TAI reduce el ancho de banda hasta 4 veces, lo que hace que la inferencia de TAI sea como con 54 TB / s de ancho de banda. Los cambios evolutivos en 2028 duplicarían el ancho de banda de los chips de IA basados en TDIMM a 27 TB/s.

 

Hacer que TDIMM sea de código abierto y libre de regalías para las empresas y el mundo entero, incluido JEDEC, que impulsará la adopción del volumen general y el bajo costo. China llegó tarde con DDR5, pero pueden saltar al rendimiento y la densidad como DDR6 el próximo año, haciendo que el TDIMM fabricado en volumen de bajo costo esté disponible antes del lanzamiento de Prodigy. Las partes interesadas deben ponerse en contacto con Tachyum ahora para acceder a la tecnología y los acuerdos de TDIMM.

"El TDIMM es clave para reducir el costo de los sistemas de inteligencia artificial entrenados en todo el conocimiento, desde $ 8 billones y 276 gigavatios a $ 78 mil millones y 1 gigavatio en 2028", dijo el Dr. Radoslav Danilak, fundador y CEO de Tachyum. "El TDIMM marca el comienzo de la era de la IA asequible entrenada en todo el conocimiento escrito producido por la humanidad, accesible a muchas empresas y naciones".

Tachyum cree que su tecnología debe ser democratizada y accesible para servir a toda la humanidad. La apertura de la tecnología TDIMM se seguirá este año haciendo que el software de apertura de Instruction Set Architecture (ISA) y el lanzamiento de software a código abierto. En 2023, Tachyum anunció que la tecnología TAI TPU está disponible para la concesión de licencias para garantizar la amplia proliferación de la tecnología Tachyum fuera de los centros de datos a los dispositivos de borde e IoT.

El Prodigio Procesador Universal Ofrece órdenes de mayor rendimiento de IA de magnitud, 3x el rendimiento de los mejores procesadores x86 y 6x rendimiento HPC de la GPGPU más rápida. Al eliminar la necesidad de un costoso hardware de inteligencia artificial dedicado y aumentar drásticamente la utilización del servidor, Prodigy reduce significativamente el centro de datos CAPEX y OPEX, al tiempo que ofrece un rendimiento, energía y economía sin precedentes.

Los interesados en leer los detalles técnicos de la arquitectura TDIMM pueden Descargar el Tachyum TDIMM Module Product Brief.

Fuente: Tachyum