GIGABYTE lanza el ecosistema de ordenadores de sobremesa «AI TOP», que incluye la estación de trabajo Radeon AI PRO R9700 para modelos de lenguaje grande (LLM) de hasta 405 000 millones de parámetros

En su evento de prensa 'ENTER INFINITY', GIGABYTE presentó su ecosistema AI TOP de estaciones de trabajo de escritorio, con tres nuevas construcciones previas dirigidas a varios segmentos del mercado.

'AI TOP' 100 B850 Cuenta Con Radeon AI PRO R9700 Para LLM De Parámetros De Hasta 405B

Presumiblemente utilizando la placa base superior B850 AI, esta estación de trabajo combina un Ryzen 9 9950X con 128GB de memoria DDR5, y su elección de un RTX 5090 32G, o un Radeon AI PRO R9700 32G. Todo este cómputo es alimentado por la UD1600PM PG5 AI TOP PSU, una fuente de alimentación certificada de 1600W 80 + Platinum.

GIGABYTE dice que esta estación de trabajo admite LLM con parámetros de hasta 405B, lo que la convierte en una opción viable para ejecutar modelos bastante inteligentes localmente. También afirman haber validado la compatibilidad con "100+ AI Apps", aunque no está claro qué aplicaciones se probaron.

Gigabyte también comparó el AI TOP 100 (no claro qué producto específico) con un "Sistema Normal", mostrando 10 veces el rendimiento en número de épocas, o una ventaja de rendimiento de 237x en Time to Complete. Sin más detalles, no podemos decir mucho sobre esta comparación, pero el rendimiento de estas estaciones de trabajo es más o menos una cantidad conocida en este punto. El R9700 AI PRO ofrece los mismos 32GB de VRAM que el RTX 5090 a aproximadamente la mitad del precio, pero el 5090 sigue siendo más rápido gracias a su enorme bus GDDR7 de 512 bits que proporciona gotas de ancho de banda de memoria.

AI TOP 100 Z890: La conectividad es el nombre del juego

El siguiente es el AI TOP 100 Z890, que se construye alrededor de la placa base GIGABYTE Z890 AI TOP. Con un Core Ultra 9 285k con 128 GB de DDR5 y un GIGABYTE RTX 5090 Windforce OC 32G (curiosamente, no hay opción para especificar un Intel Arc Pro B70). Utiliza la misma UD1600PM PG5 AI TOP PSU que la estación de trabajo AI TOP 100 B850.

La característica destacada de la estación de trabajo Intel de GIGABYTE aquí es la conectividad. Con el Z890 AI TOP 100 con dos puertos Thunderbolt 5, GIGABYTE dice que es posible conectar múltiples estaciones de trabajo en comparación con TB5 a 80 Gbps, con un aumento de rendimiento de hasta 1.6x en las cargas de trabajo de entrenamiento.

AI TOP 500 TRX50: La Parte Superior Del Tótem

La AI TOP 500 TRX50 es una verdadera estación de trabajo, construida alrededor de la placa base TRX50 AI TOP sTR5. Impulsado por un Threadripper PRO 7965WX de 24c/48t emparejado con la friolera de 768GB de DDR5, este gigante puede incluso ejecutar LLMs fuera de la CPU, aunque no es necesario dar que viene con un RTX 5090. La alimentación de todo es una vez más la fuente de alimentación 1600W UD1600PM PG5 AI TOP.

Una rareza con este sistema es que en realidad no es compatible con otra GPU en modo x16, tal vez debido a la ranura de 3.5 5090 que están usando. Parece un desperdicio para una plataforma diseñada teniendo en cuenta las configuraciones multi-GPU, pero claramente el énfasis con este sistema está en la CPU, no en la GPU. En cualquier caso, esta línea de estaciones de trabajo de escritorio 'AI TOP' le da a GIGABYTE una posición única en el mercado, siendo uno de los únicos AIB que ofrecen estaciones de trabajo de alta gama ya preparadas para el uso local de IA.

Fuente de noticias: GIGABYTE