Kimi K3 : Moonshot AI lance un modèle open de 2 800 milliards de paramètres qui veut rivaliser avec GPT et Claude

La bataille des modèles d’intelligence artificielle franchit un nouveau cap. La start-up chinoise Moonshot AI vient d’annoncer Kimi K3, un modèle multimodal doté d’une architecture Mixture of Experts revendiquant 2 800 milliards de paramètres.

Présenté comme l’un des premiers modèles ouverts de cette catégorie, Kimi K3 ambitionne de concurrencer les solutions propriétaires les plus avancées dans la programmation et les tâches agentiques, tout en affichant des tarifs sensiblement inférieurs.

Kimi K3 revendique 2 800 milliards de paramètres

La course à la puissance des modèles d’intelligence artificielle est loin d’être terminée. Avec Kimi K3, Moonshot AI présente son modèle le plus ambitieux à ce jour et revendique une architecture totalisant 2 800 milliards de paramètres.

Le terme « ouvert » doit néanmoins être utilisé avec prudence. Kimi K3 est accessible à travers les applications et l’API de Moonshot AI, mais ses poids complets ne doivent être publiés que le 27 juillet. L’entreprise n’a pas encore communiqué les détails de la licence qui accompagnera cette publication.

Le rapport technique complet, qui doit notamment décrire les méthodes d’entraînement et les protocoles d’évaluation, doit lui aussi être publié ultérieurement. Une partie des annonces de Moonshot AI reste donc, pour le moment, impossible à vérifier indépendamment.

Seulement 16 experts activés pour chaque token

Les 2 800 milliards de paramètres de Kimi K3 ne sont pas mobilisés simultanément. Le modèle repose sur une architecture Mixture of Experts particulièrement clairsemée, baptisée Stable LatentMoE.

Cette architecture comprend 896 experts, mais seulement 16 d’entre eux sont sélectionnés pour traiter chaque token. Ce fonctionnement doit permettre de profiter des capacités d’un très grand modèle sans supporter systématiquement le coût de calcul correspondant à l’ensemble de ses paramètres.

Moonshot AI ne précise toutefois pas encore le nombre exact de paramètres réellement actifs pendant une requête. Cette information sera essentielle pour évaluer les besoins matériels et le coût réel de l’inférence.

Deux mécanismes pour optimiser le raisonnement

Kimi K3 s’appuie également sur deux technologies développées par Moonshot AI. La première, baptisée Kimi Delta Attention, doit améliorer l’efficacité du traitement des séquences particulièrement longues.

La seconde, appelée Attention Residuals, permet au modèle de sélectionner certaines représentations produites dans les couches précédentes, plutôt que de les accumuler de manière uniforme.

Selon Moonshot AI, ces mécanismes, associés à de nouvelles méthodes d’entraînement, amélioreraient d’environ 2,5 fois l’efficacité de mise à l’échelle par rapport à Kimi K2.

Un modèle qui exige au moins 64 accélérateurs

Kimi K3 a été entraîné en tenant compte de la quantification. Ses poids utilisent le format MXFP4, tandis que ses activations reposent sur le format MXFP8.

Cette méthode permet de réduire les besoins en mémoire et en puissance de calcul. Elle doit également faciliter l’exécution du modèle sur différentes architectures matérielles.

Kimi K3 reste malgré tout extrêmement exigeant. Moonshot AI recommande de le déployer sur des « supernodes » comprenant au moins 64 accélérateurs reliés par une interconnexion à haut débit.

La publication des poids permettra donc théoriquement d’héberger le modèle de manière autonome. En pratique, cette possibilité concernera surtout les fournisseurs de services cloud, les laboratoires et les grandes entreprises disposant d’une infrastructure informatique considérable.

Une fenêtre de contexte d’un million de tokens

Kimi K3 peut traiter jusqu’à un million de tokens au sein d’une même fenêtre de contexte. Les précédents modèles Kimi K2.6 et K2.7 Code étaient limités à 256 000 tokens.

Cette capacité doit permettre au modèle d’analyser des dépôts logiciels volumineux, de parcourir d’importantes bases documentaires ou de conserver le contexte de missions agentiques comportant un très grand nombre d’étapes.

Une fenêtre d’un million de tokens peut également faciliter l’analyse de longues conversations, de documents techniques complexes ou de projets informatiques regroupant des centaines de fichiers.

Un modèle nativement multimodal

Kimi K3 ne se limite pas au texte. Le modèle est nativement multimodal et peut analyser des images ainsi que des vidéos.

Il peut également réutiliser ses observations visuelles pendant un processus de développement. Moonshot AI met notamment en avant la création d’applications front-end, de jeux en 3D, de projets de conception assistée par ordinateur et de montages vidéo.

Le modèle peut produire des réponses structurées, appeler des outils externes et maintenir des conversations de longue durée. Il est donc principalement pensé pour alimenter des agents autonomes plutôt que pour fonctionner uniquement comme un chatbot traditionnel.

Un raisonnement maximal activé par défaut

Le mode de raisonnement de Kimi K3 est toujours activé. Lors de son lancement, seul le niveau d’effort maximal est proposé. Des modes de raisonnement moins coûteux doivent être ajoutés ultérieurement.

Cette configuration favorise probablement les performances présentées dans les premiers benchmarks. Elle pourrait toutefois augmenter la latence des réponses et le nombre de tokens facturés aux utilisateurs.

Des performances compétitives face à GPT et Claude

Moonshot AI reconnaît que Kimi K3 ne domine pas systématiquement les modèles propriétaires les plus avancés. Le modèle chinois obtient néanmoins des résultats très compétitifs sur plusieurs évaluations consacrées au développement logiciel et à l’exécution autonome de tâches.

Benchmark Kimi K3 GPT-5.6 Sol Claude Fable 5
FrontierSWE 81,2 71,3 86,6
SWE Marathon 42 39 35
BrowseComp 91,2 90,4 88
GPQA Diamond 93,5 94,1 Non communiqué
Humanity’s Last Exam sans outils 43,5 Non communiqué 53,3

Sur FrontierSWE, Kimi K3 obtient un score de 81,2, contre 71,3 pour GPT-5.6 Sol et 86,6 pour Claude Fable 5.

Sur SWE Marathon, le modèle de Moonshot AI atteint 42 points, devant GPT-5.6 Sol à 39 et Claude Fable 5 à 35.

Kimi K3 se montre également performant sur BrowseComp, une évaluation consacrée à la recherche et à l’agrégation d’informations. Il obtient 91,2 points, contre 90,4 pour le modèle d’OpenAI et 88 pour celui d’Anthropic.

Des résultats moins impressionnants en raisonnement général

Le bilan est plus nuancé sur les tests de raisonnement général et de compréhension visuelle. Kimi K3 obtient un score de 93,5 sur GPQA Diamond, légèrement derrière GPT-5.6 Sol, crédité de 94,1.

Sur Humanity’s Last Exam sans utilisation d’outils, Kimi K3 atteint 43,5 points, contre 53,3 pour Claude Fable 5.

Les données publiées par Moonshot AI décrivent donc un modèle particulièrement solide dans la programmation et les tâches agentiques, mais pas un nouveau leader incontestable dans toutes les catégories.

Des benchmarks à interpréter avec prudence

Les comparaisons publiées par Moonshot AI présentent plusieurs limites. Les différents modèles n’ont pas nécessairement été évalués avec les mêmes environnements agentiques. Selon les tests, les outils Kimi Code, Claude Code ou Codex ont été utilisés.

Tous les résultats de Kimi K3 ont par ailleurs été obtenus avec son niveau de raisonnement maximal. Certains benchmarks sont internes à Moonshot AI et l’ensemble des résultats n’a pas encore fait l’objet d’une validation indépendante.

Il est donc préférable d’attendre la publication du rapport technique complet ainsi que des tests réalisés par des chercheurs ou des organismes extérieurs avant de tirer des conclusions définitives.

Kimi K3 peut prendre des initiatives inattendues

Moonshot AI reconnaît également plusieurs limites dans le comportement de son modèle. Kimi K3 peut notamment devenir instable lorsque l’intégralité de son historique de raisonnement ne lui est pas retransmise.

Le modèle aurait également tendance à prendre des initiatives inattendues lorsque les instructions qui lui sont données sont ambiguës. Ce comportement serait lié à un entraînement privilégiant les missions longues, complexes et autonomes.

Moonshot AI recommande donc aux entreprises d’utiliser des consignes précises et d’imposer des contraintes explicites lors de l’intégration du modèle dans un environnement professionnel.

Moonshot AI veut créer un « collègue numérique »

Pour illustrer les capacités de Kimi K3, Moonshot AI présente plusieurs expérimentations particulièrement ambitieuses.

Le modèle aurait notamment développé MiniTriton, un petit compilateur GPU comparable à Triton. Il aurait ensuite conçu et vérifié en 48 heures un accélérateur destiné à exécuter un modèle miniature basé sur sa propre architecture.

Cette puce expérimentale, simulée à partir d’une bibliothèque en 45 nanomètres, intégrerait 1,46 million de cellules et pourrait dépasser 8 700 tokens par seconde.

Il ne s’agit cependant pas d’une puce réellement fabriquée et ce résultat n’a pas été certifié par un organisme indépendant.

Ces démonstrations permettent surtout de comprendre le positionnement de Kimi K3. Moonshot AI ne souhaite pas présenter son modèle comme un simple assistant conversationnel, mais comme le moteur de véritables « collègues numériques » capables de poursuivre un objectif pendant plusieurs heures.

Kimi K3 intégré dans un environnement de travail complet

Le modèle est disponible dans l’interface Kimi, dans l’outil de développement Kimi Code, dans l’application de bureau Kimi Work et à travers l’API de Moonshot AI.

Kimi Work accueille également des widgets interactifs pouvant être connectés à des données locales ou à des extensions, ainsi qu’un tableau de bord persistant.

Moonshot AI cherche ainsi à faire de Kimi K3 la couche d’intelligence d’un environnement de travail complet. Le modèle doit pouvoir générer du code, des présentations, des tableaux de bord, des documents ou encore des vidéos sans que l’utilisateur ait à changer constamment d’outil.

Une API facturée 3 dollars en entrée et 15 dollars en sortie

L’accès à Kimi K3 par API est facturé 3 dollars par million de tokens en entrée et 15 dollars par million de tokens en sortie.

Les tokens d’entrée retrouvés dans le cache sont facturés 0,30 dollar par million. Ces prix sont nettement plus élevés que ceux des précédents modèles de Moonshot AI.

  • Kimi K3 : 3 dollars en entrée et 15 dollars en sortie ;
  • Kimi K2.6 et K2.7 Code : 0,95 dollar en entrée et 4 dollars en sortie ;
  • Cache Kimi K3 : 0,30 dollar par million de tokens.

Le passage à Kimi K3 multiplie donc le tarif par plus de trois par rapport aux précédentes générations.

Moins cher que les modèles d’OpenAI et d’Anthropic

Malgré cette augmentation, Moonshot AI présente Kimi K3 comme une solution plus économique que ses principaux concurrents propriétaires.

D’après les tarifs communiqués, le modèle coûterait environ 40 à 50 % moins cher que GPT-5.6 Sol, facturé 5 dollars par million de tokens en entrée et 30 dollars en sortie.

Kimi K3 serait également environ 70 % moins cher que Claude Fable 5, dont les tarifs atteindraient 10 dollars en entrée et 50 dollars en sortie.

Moonshot AI affirme compenser une partie des besoins en calcul grâce à son architecture d’inférence désagrégée Mooncake et à un taux de réutilisation du cache supérieur à 90 % sur les tâches de programmation.

Ce taux provient toutefois directement de l’entreprise et devra lui aussi être confirmé dans des conditions d’utilisation réelles.

Un modèle ouvert qui pourrait surtout profiter à l’API de Moonshot

La stratégie économique de Moonshot AI paraît relativement claire. En publiant les poids de Kimi K3, l’entreprise souhaite diffuser son architecture auprès des développeurs, des laboratoires et des fournisseurs de services d’inférence.

Les besoins matériels nécessaires pour héberger un modèle de 2 800 milliards de paramètres devraient toutefois limiter les déploiements locaux.

De nombreuses entreprises pourraient donc choisir d’utiliser directement l’API de Moonshot AI ou les applications Kimi, plutôt que de supporter le coût d’une infrastructure composée de dizaines d’accélérateurs.

Kimi K3 peut-il réellement rebattre les cartes du marché ?

Avec Kimi K3, Moonshot AI montre que les entreprises chinoises restent pleinement engagées dans la course mondiale aux modèles d’intelligence artificielle de très grande taille.

Son architecture Mixture of Experts, sa fenêtre de contexte d’un million de tokens et ses capacités agentiques pourraient en faire une alternative crédible aux modèles propriétaires américains, en particulier pour le développement logiciel et l’automatisation de tâches complexes.

Plusieurs inconnues subsistent néanmoins. La licence définitive n’a pas encore été dévoilée, le rapport technique complet reste attendu et les benchmarks reposent principalement sur les déclarations du constructeur.

L’ouverture du modèle sera également limitée par une importante barrière matérielle. Kimi K3 pourrait donc rebattre les cartes du marché, mais son influence réelle dépendra autant de son prix et de son écosystème que de ses 2 800 milliards de paramètres.