Moore Threads adelanta un excelente rendimiento del modelo DeepSeek-R1 en GPU MTT

Moore Threads, un fabricante chino de diseños patentados de GPU es (al parecer) la última compañía en saltar al carro DeepSeek-R1. Desde finales de enero, NVIDIA, Microsoft y AMD se han abalanzado con sus propias interpretaciones/despliques. Según los estándares globales, Moore lanza GPUs detrás de las ofertas desarrolladas de OccidenteLas primeras evaluaciones de 2024 presentaron la tarjeta gráfica de escritorio de escritorio MTT S80 de la firma luchando contra una solución integrada de AMD: Radeon 760M. La reciente aparición de los modelos de código abierto de DeepSeek ha señalado un cambio de la dependencia de hardware extremadamente potente y costoso de crispar en IA (a menudo accetteado a través de la nube) se ha generado por soluciones DeepSeek siendo relativamente frugal, en términos de requisitos de procesamiento. El Hardware de Tom ha observado casos de modelos de IA de código abierto que se ejecutan (localmente) en: "herraje barato, como el Raspberry Pi".

• 

• 

• 

Según la reciente cobertura de la prensa china, Moore Threads ha anunciado un despliegue exitoso del modelo de destilado R1-Distill-Qwen-7B de DeepSeek en el mencionado MTT S80 GPU. La compañía también reveló que había dado pasos similares con su MTT S4000 hardware gráfico orientado al centro de datos. Sobre el tema de la adaptación, un portavoz de Moore Threads declaró: "basado en el marco de código abierto de Ollama, Moore Threads completó el despliegue del modelo de destilación DeepSeek-R1-Distill-Qwen-7B y demostró un excelente rendimiento en una variedad de tareas chinas, verificando la versatilidad y la compatibilidad de CUDA de la GPU autodesarrollada de Moore Threads". Cifras de desempeño exactas, resultados de referencia y detalles técnicos no fueron revelados al público chino, por lo que Moore Threads parece estar burlándose de la destreza de sus diseños de GPU MTT. ITHome Según ha informado, "los usuarios también pueden realizar el despliegue infernal del modelo de destilación DeepSeek-R1 basado en MTT S80 y MTT S4000. Algunos usuarios han completado previamente la práctica manualmente en MTT S80". Moore Threads cree que su "motor de inferencia de alto rendimiento desarrollado", combinado con la tecnología de cooptimización de software y hardware, mejora significativamente la eficiencia de la computación y la utilización de recursos del modelo a través de la aceleración personalizada del operador y la gestión de memoria. Este motor no sólo admite el funcionamiento eficiente del modelo de destilación DeepSeek, sino que también proporciona soporte técnico para el despliegue de modelos más a gran escala en el futuro".

  

Fuentes: ITHome, Hardware de Tom, oso de TI China