Kimi K3, de China, se identifica como Claude, de Anthropic, en al menos una conversación, revelando así sus orígenes destilados.

El modelo de IA Kimi K3 de Moonshot de repente ha tomado el mundo por asalto, saltando al lugar de la cima en la clasificación de código frontal de Arena aparentemente de la nada.

Sin embargo, debajo de la superficie, una creciente cantidad de evidencia anecdótica indica que el Kimi K3 ha sido destilado del Claude de Anthropic, con el modelo llegando a identificarse como tal en al menos una conversación que está haciendo las rondas en las redes sociales.

La capacitación y la eficiencia de costos de inferencia del modelo Kimi K3 están separadas, lo que indica una discrepancia subyacente

Como explicamos en una publicación reciente, Moonshot acaba de presentar su nuevo modelo Kimi K3 de código abierto, que abarca 2,8 billones de parámetros, y está diseñado específicamente para inteligencia a escala fronteriza.

El modelo es multimodal, tiene una ventana de contexto de alrededor de 1 millón de tokens, y ofrece un rendimiento competitivo y más rápido que muchos de sus competidores.

Críticamente, Kimi K3 coincide con el rendimiento de muchos modelos fronterizos en los Estados Unidos a pesar de tener acceso a mucha menos potencia de computación en bruto. Y, en lo que es altamente aberrante, su consumo de computación para la inferencia coincide con lo que se espera de GPT 5.5 y Claude 4.8 Opus High. Ahora, no puedes tener uno sin el otro. Si su proceso de formación es notablemente eficiente, debe reflejarse en los costos de inferencia de su modelo. Sin embargo, como explicamos aquí, estos últimos se mantienen en los mismos niveles de eficiencia, lo que sugiere que Moonshot ha participado en las buenas técnicas de destilación para desarrollar el Kimi K3.

En cuanto a la proverbial pistola humeante, Kimi K3 fue sorprendido identificándose como "Claude, un asistente de inteligencia artificial hecho por Anthropic" en al menos una conversación. Por supuesto, algunas personas afirmarán que la destilación es imposible simplemente porque el modelo superó a muchos de los LLM de los que se suponía que se destilaría. Esta línea de pensamiento, sin embargo, ignora el poder del aprendizaje de refuerzo posterior a la destilación.

Por supuesto, todo esto todavía reside firmemente en el mundo turbio de la conjetura educada. Pero la evidencia anecdótica disponible parece estar sincronizada con la tesis de que Moonshot ha destilado Kimi K3 de Claude de Anthropic.

Fuente: Wccftech