Broadcom Ships Tomahawk Ultra Ethernet Switch for HPC and AI Scale-up

Broadcom Inc. (NASDAQ:AVGO), líder mundial en soluciones de software de semiconductores e infraestructura, anunció hoy el envío de su avance Ethernet switch.The Tomahawk Ultra. Diseñado para transformar el interruptor Ethernet para tareas de computación de alto rendimiento (HPC) e IA, Tomahawk Ultra ofrece una latencia ultrabaja líder en la industria, rendimiento masivo y redes sin pérdidas.

"Tomahawk Ultra es un testimonio de la innovación, que implica un esfuerzo de varios años de cientos de ingenieros que reimaginaron todos los aspectos del cambio de Ethernet", dijo Ram Velaga, vicepresidente senior y gerente general de Broadcom's Core Switching Group. "Esto pone de relieve el compromiso de Broadcom de invertir en el avance de Ethernet para la creación de redes de alto rendimiento y la ampliación de IA".

  

Mitos destrozados, Redimensionamiento Redefining Performance

Construido desde cero para satisfacer las demandas extremas de los entornos de HPC y clúmulos de IA acoplados firmemente, Tomahawk Ultra redefine lo que un interruptor Ethernet puede ofrecer. Percidida durante mucho tiempo como de mayor latencia y pérdida, Ethernet asume un nuevo papel:

• latencia ultrabaja: Logra 250ns cambiar latencia en el rendimiento completo de 51.2 Tbps.

• Alto rendimiento: Entrega el rendimiento de conmutación de la tarifa de línea incluso en tamaños mínimos de paquetes de 64 bytes, soportando hasta 77 mil millones de paquetes por segundo.

• Cabezas Ethernet adaptables y optimizadas: Reduce la cabeza de encabezado de 46 bytes hasta 10 bytes, manteniendo al mismo tiempo la plena aplicación de la eficiencia de la red y permitiendo optimizaciones flexibles y específicas de la aplicación.

• Color sin pérdidas: Implementa Link Layer Retry (LLR) y Control de Flujo Basado en Crédito (CBFC) para eliminar la pérdida de paquetes y garantizar la fiabilidad.

"Las cargas de trabajo de la AI y HPC están convergiendo en clústeres aceleradores estrechamente acoplados que exigen latencia de clase superordenadora crítica para la inferencia, la fiabilidad y la inteligencia en la red de la propia tela", dijo Kunjan Sobhani, analista principal de semiconductores de Bloomberg Intelligence. "Demostrar que los estándares abiertos Ethernet ahora pueden ofrecer conmutación de sub-microsegundos, transporte sin pérdidas y colectivos en el chip marcan un paso fundamental para satisfacer esas demandas de una central de IA proyectadas para ser de dos dígitos en unos pocos años".

Construido para HPC e IA Escala-Up

Tomahawk Ultra está optimizado para los patrones de comunicación de baja latencia bien acoplados que se encuentran tanto en sistemas de computación de alto rendimiento como en clústeres de IA. Con conmutación de latencia ultra-bajo y encabezados Ethernet optimizados optimizados, proporciona un rendimiento predecible y de alta eficiencia para simulaciones a gran escala, computación científica y entrenamiento e inferencia de modelos de IA sincronizados.

Cuando se implementa con Scale-Up Ethernet (Esctecificación SUE disponible para el público aquí), Tomahawk Ultra permite la latencia de comunicación de la comunicación de sub-400ns XPU, incluyendo el tiempo de tránsito de interruptor-configurar un nuevo punto de referencia para la computación de IA estrechamente sincronizada a escala.

Al reducir la cabeza de Ethernet de 46 bytes a sólo 10 bytes, mientras que el mantenimiento completo del cumplimiento de Ethernet, Tomahawk Ultra mejora dramáticamente la eficiencia de la red. Esta cabecera optimizada es adaptable por aplicación, ofreciendo tanto flexibilidad como ganancias de rendimiento en diversas cargas de trabajo de HPC e IA.

Tomahawk Ultra incorpora tecnología de tela sin pérdidas que elimina gotas de paquetes durante la transferencia de datos de alto volumen. Incorporando LLR, el interruptor detecta errores de enlace usando la corrección de errores de dirección y retransmite automáticamente los paquetes, evitando caídas a nivel de alambre. Simultáneamente, CBFC evita los desbordamientos de amortiguación que tradicionalmente causaron pérdida de paquetes. Juntos, estos mecanismos crean un tejido Ethernet verdaderamente sin pérdidas, ofreciendo el nivel de fiabilidad exigido por las cargas de trabajo más intensivas en datos actuales.

Tomahawk Ultra también acelera el rendimiento a través de Colectivos de la Red que resuelven uno de los cuellos de botella más persistentes en la carga de trabajo de IA y aprendizaje automático. En lugar de cargar XPUs con operaciones colectivas como AllReduce, Broadcast, o AllGather, Tomahawk Ultra los ejecuta directamente dentro del chip de interruptor. Esto puede reducir el tiempo de finalización de la vida laboral y mejorar la utilización de costosos recursos de cómputo. Es importante señalar que esta capacidad es agnóstico, lo que permite la adopción inmediata en una amplia gama de arquitecturas del sistema y ecosistemas de proveedores.

Diseñado con innovaciones en rutas de topología conscientes de la topología para apoyar topologías avanzadas de HPC incluyendo Dragonfly, Mesh y Torus, Tomahawk Ultra también cumple con el estándar de la UEC y abarca la apertura y el rico ecosistema de redes Ethernet.

Presentamos SUE-Lite

Como parte de la estrategia Ethernet-forward de Broadcom para la escalada de IA, la compañía ha introducido la versión optimizada de SUE de la especificación SUE adaptada para aplicaciones de acelerador de potencia y área sensibles a la energía. SUE-Lite conserva las características clave de baja latencia y sin pérdidas de SUE completa, al tiempo que reduce aún más la huella de silicio y el consumo de energía de las interfaces Ethernet en XPUs y CPUs de AI.

Esta variante ligera permite una integración más fácil de los tejidos Ethernet compatibles con los estándares en plataformas de IA, promoviendo una adopción más amplia de Ethernet como la interconexión de elección en arquitecturas de escalada.

Plataforma para IA Escala-Up y HPC Scale-Out

Junto con el 102.4 Tbps Tomahawk 6, Tomahawk Ultra forma la base de una arquitectura Ethernet unificada: la escalada Ethernet para la IA, y escalada Ethernet para HPC y cargas de trabajo distribuidas.

Ahora en el crucero

Tomahawk Ultra es 100% compatible con Tomahawk 5, asegurando un tiempo muy rápido en el mercado. Ahora se está enviando para su despliegue en grupos de entrenamiento de IA a escala de rack y entornos de supercomputación. Para obtener más información sobre la familia Broadcom Tomahawk Ultra haga clic aquí.

Fuente: Broadcom