Gigabyte acelera el desarrollo de IA de escritorio con la AI TOP 100 B850

Gigabyte, líder mundial en hardware de computadora, anunció hoy el Gigabyte AI TOP 100 B850, un escritorio de alto rendimiento diseñado para llevar el cómputo de IA de clase de estación de trabajo directamente al escritorio. Diseñado para reducir la dependencia de la nube y reducir las barreras para la implementación local, el sistema permite a las empresas, desarrolladores e investigadores ejecutar cargas de trabajo avanzadas de IA localmente, dándoles un mayor control sobre los datos confidenciales y la infraestructura de IA al tiempo que reduce la dependencia de la nube y los servicios basados en tokens.

• 

• 

• 

• 

• 

Diseñado para el desarrollo de IA de próxima generación

En el corazón del Gigabyte AI TOP 100 B850 se encuentra el procesador AMD Ryzen 9 9950X de 16 núcleos y 32 hilos, que ofrece el rendimiento requerido para las cargas de trabajo de IA modernas que van desde el ajuste fino local de LLM y la IA generativa hasta la investigación de aprendizaje profundo y la IA agrética. El sistema viene equipado con 128 GB de memoria DDR5 y un SSD PCIe Gen 4 de 2 TB, que proporciona una amplia capacidad y acceso de alta velocidad para grandes conjuntos de datos, almacenamiento de modelos locales y entornos de desarrollo complejos.

Para abordar diferentes cargas de trabajo de IA, el sistema está disponible en dos configuraciones de GPU. El modelo NVIDIA GeForce RTX 5090 ofrece un potente rendimiento acelerado por CUDA para los LLM locales, la IA generativa y los flujos de trabajo de agentes. Acelera la inferencia local con velocidades de generación de hasta 64,9 tokens por segundo cuando se ejecuta un modelo de 32 mil millones de parámetros, lo que lo hace muy adecuado para aplicaciones interactivas de inteligencia artificial donde la generación de respuesta rápida es una prioridad.

Alternativamente, el modelo dual AMD Radeon AI PRO R9700 proporciona una combinación de 64 GB de VRAM, ampliando la capacidad del sistema para manejar modelos más grandes y cargas de trabajo de memoria intensiva. Es compatible con la inferencia con modelos de hasta 235 mil millones de parámetros y el ajuste fino con modelos de hasta 110 mil millones de parámetros, lo que permite a los equipos de desarrollo e investigadores abordar tareas de inteligencia artificial más complejas directamente en el escritorio.

Más allá de satisfacer las demandas de inteligencia artificial de hoy, el Gigabyte AI TOP 100 B850 proporciona espacio para el crecimiento futuro. Construido alrededor de componentes de escritorio estándar, el sistema ofrece una ruta de actualización flexible y rentable a largo plazo. Las ranuras Dual PCIe 5.0 son compatibles con opciones de GPU de alto rendimiento, mientras que la memoria y el almacenamiento expandibles le permiten escalar con modelos, conjuntos de datos y requisitos de proyecto en crecimiento.

Diseñado para la IA continua

Construido para soportar cargas de trabajo de IA sostenidas y de alta intensidad, el Gigabyte AI TOP 100 B850 combina una placa base AI TOP especialmente diseñada con refrigeración líquida de la CPU y un diseño de sistema de alto flujo de aire. Este diseño térmico coordinado disipa eficientemente el calor del procesador, las GPU y otros componentes críticos, ayudando a mantener un rendimiento estable a través de ciclos de computación prolongados. Una fuente de alimentación de platino 1600 W 80 Plus ofrece energía confiable bajo cargas pesadas, con un amplio margen para la futura expansión del hardware.

Para flujos de trabajo de IA intensivos en datos, los puertos LAN duales de 10 GbE aceleran las grandes transferencias de conjuntos de datos, el acceso al almacenamiento compartido y el intercambio de datos en todos los sistemas, mientras que el Wi-Fi 7 agrega una mayor flexibilidad de red. Una selección completa de E/S de alta velocidad, incluyendo USB de 20 Gbps Type-C, ayuda a reducir aún más los cuellos de botella al transferir datos desde y hacia dispositivos externos.

Los usuarios pueden agilizar aún más los flujos de trabajo de IA locales con Gigabyte AI TOP Utility. Complementando el hardware del sistema, el software reúne monitoreo en tiempo real del sistema, descarga de memoria y herramientas intuitivas de creación de conjuntos de datos en una interfaz unificada, simplificando la capacitación y el ajuste de los modelos de texto y IA multimodal.

El Gigabyte AI TOP 100 B850 pone el cómputo de IA local avanzado en manos de desarrolladores, investigadores y empresas en crecimiento, lo que les permite ejecutar modelos más grandes, acelerar la experimentación y escalar a medida que crecen las demandas. Proporciona una base duradera para convertir las ambiciones de inteligencia artificial en aplicaciones prácticas, en las instalaciones y en sus propios términos.

Fuente: Gigabyte