Los aceleradores Ascend 910B de Huawei alimentan la infraestructura cloud para DeepSeek R1 Inference

Cuando High-Flyer, el fondo de cobertura detrás de DeepSeek, debutó con su modelo insignia, DeepSeek R1, el mundo de la tecnología se vino abajo. Nadie esperaba que las empresas chinas de IA pudieran producir un modelo de IA de alta calidad que rivalizara con los mejores de OpenAI y Anthropic. Aunque hay rumores de que DeepSeek tiene acceso a 50.000 GPU «Hopper» de NVIDIA, incluidas las H100, H800 y H20, parece que Huawei está dispuesta a impulsar la infraestructura china de IA con sus aceleradores de IA. Según el South China Morning Post, proveedores de nube chinos como SiliconFlow.cn están ofreciendo modelos de IA DeepSeek para inferencia en aceleradores Huawei Ascend 910B. Por el precio de sólo un yuan por un millón de tokens de entrada, y cuatro yuanes por un millón de tokens de salida, este modelo económico de alojamiento de IA está subcotizando fundamentalmente a la competencia como los proveedores de nube con sede en EE.UU. que ofrecen DeepSeek R1 por 7 dólares por millón de tokens.

Ejecutar en el Huawei Ascend 910B no solo es más barato para los proveedores de la nube, sino que también lo es para la propia DeepSeek, que sirve su aplicación de chat en el Huawei Ascend 910C. El uso de aceleradores nacionales reduce el coste total de propiedad, con el consiguiente ahorro para los usuarios. Si los clientes occidentales prefieren que la inferencia de la IA sea servida por empresas occidentales, tendrán que pagar un precio más elevado, a menudo respaldado por los altos precios de GPU como NVIDIA H100, B100 y AMD Instinct MI300X.

Fuentes: SCMP, SiliconFlow