GIGABYTE Presenta Servidores de Computación Acelerada con NVIDIA HGX H200
Giga Computing, una subsidiaria de GIGABYTE y líder en la industria de servidores de IA generativa y tecnologías avanzadas de refrigeración, ha añadido hoy dos nuevos servidores de placa base de 8-GPU a la serie GIGABYTE G593 que soportan NVIDIA HGX H200, una plataforma de memoria GPU ideal para grandes conjuntos de datos de IA, así como simulaciones científicas y otras cargas de trabajo intensivas en memoria.
Serie G593 para cálculo a escala en IA y HPC
Con espacio dedicado a la refrigeración de las GPU, la serie G593 consigue un rendimiento estable y exigente en su chasis compacto de 5U con un elevado flujo de aire para una densidad de cálculo increíble. Manteniendo los mismos requerimientos de energía que los sistemas basados en NVIDIA HGX H100 refrigerados por aire, la GPU NVIDIA H200 Tensor Core se empareja de forma óptima con el servidor GIGABYTE serie G593 que ha sido especialmente diseñado para una placa base de 8 GPUs. Para aliviar las limitaciones de ancho de banda de la memoria en IA, incluida la inferencia de IA, la GPU NVIDIA H200 ofrece un aumento considerable de la capacidad y el ancho de banda de la memoria en comparación con la GPU NVIDIA H100 Tensor Core. La GPU H200 tiene hasta 141 GB de memoria HBM3e y 4.8 TB/s de ancho de banda de memoria, lo que se traduce en un aumento de 1.7X en la capacidad de memoria y 1.4X en el rendimiento.
Además de la plataforma CPU, los nuevos servidores de GIGABYTE comparten el mismo diseño general y especificaciones que son refinadas para todas las aplicaciones de los clientes en computación acelerada. Pronto se publicarán en el Catálogo de Sistemas Cualificados de NVIDIA junto con otros servidores cualificados de la serie G593 de GIGABYTE, incluyendo cuatro servidores de la serie G593 que han pasado las pruebas funcionales y de rendimiento y son Sistemas Certificados por NVIDIA.
La serie G593 está construida para un alto grado de trabajo en red y almacenamiento. Esta serie, que admite hasta ocho unidades SSD U.2 Gen 5 NVMe, puede procesar los datos con rapidez utilizando NVIDIA GPUDirect Storage, una de las tecnologías NVIDIA Magnum IO, para obtener una ruta directa de la memoria de la GPU al almacenamiento con el fin de mejorar el ancho de banda y reducir la latencia. Para conectarse a otros servidores del cluster o para la transferencia de datos fuera del centro de datos, se dispone de doce ranuras de expansión para redes NVIDIA InfiniBand o Ethernet a través de una NIC o DPU. Para proporcionar abundante potencia y un funcionamiento continuo, hay una configuración de fuente de alimentación redundante 4+2 de 3000 W.
Integración en GIGAPOD para una solución a escala de bastidor
La importancia de un clúster de computación bien diseñado no puede ser exagerada, especialmente a medida que los avances de la IA se aceleran y las empresas y el mundo académico están ansiosos por obtener nuevos conocimientos. El año pasado, GIGABYTE lanzó su solución a escala de rack, GIGAPOD, que ha tenido gran éxito en implementaciones utilizando sistemas NVIDIA HGX. Hasta ahora, todos estos sistemas han utilizado el servidor de la serie G593 para integrar NVIDIA HGX H100. Con la adición de soporte para la GPU NVIDIA H200, GIGAPOD contribuirá a proporcionar aún más rendimiento y eficiencia a los flujos de trabajo de cálculo acelerado.
Lanzados hoy, estos nuevos servidores GIGABYTE de la serie G593 escalarán su producción en la segunda mitad de 2024.
Comments