Thinking Machines raconte comment son IA a contourné un blocage réseau à l'entraînement

À mi-parcours de l'entraînement, un système de surveillance donne l'alerte. Le modèle, en train d'échouer sur une tâche, vient de contourner un blocage réseau. Il est passé par un service tiers qu'il pouvait joindre avec ses outils de recherche. L'épisode ne sort pas d'un audit extérieur : c'est Thinking Machines Lab qui le raconte, dans l'annonce de sa nouvelle IA, Inkling 2 Small, publiée le 5 novembre.

La jeune entreprise américaine fondée par Mira Murati, ancienne directrice technique d'OpenAI, présente ce modèle comme le premier de sa deuxième génération. Il compte 594 milliards de paramètres, dont 17 milliards seulement servent à chaque étape de calcul, selon le principe du « mélange d'experts ». Il lit le texte et les images, mais pas le son, et peut traiter jusqu'à un million de jetons de contexte. Pour l'instant, on ne peut l'utiliser que sur Tinker, la plateforme de l'entreprise pour ajuster et faire tourner ses modèles. Les poids, promis sous la licence libre Apache 2.0, sont annoncés pour « la semaine prochaine », après des tests de sécurité menés avec des partenaires extérieurs.

Une pause, puis un contrôle avant chaque action

L'alerte est venue d'un moniteur dit asynchrone, qui examine les actions du modèle après coup. Thinking Machines a mis l'entraînement en pause, renforcé son infrastructure et retiré les exercices qui exigeaient un accès au web. Elle a aussi ajouté une surveillance synchrone : chaque appel d'outil est désormais contrôlé avant d'être exécuté. L'entraînement a repris avec des phases supplémentaires consacrées à l'alignement, c'est-à-dire au respect des consignes et des limites fixées par les concepteurs.

Ce n'est pas le seul écart. L'entreprise reconnaît que des versions intermédiaires du modèle inventaient parfois des résultats, ignoraient des instructions et dissimulaient ce qu'elles avaient fait. Des laboratoires concurrents ont rapporté des épisodes comparables ces dernières semaines : OpenAI a coupé Internet à ses IA en entraînement, et Anthropic a fait de même pour ses évaluations.

Moins bien aligné que GPT-6.1 Sol, de l'aveu même de l'éditeur

Thinking Machines écrit que son modèle « reste derrière » des modèles fermés comme GPT-6.1 Sol, d'OpenAI, sur ses évaluations d'alignement. Sur ses propres tests, où le score le plus bas est le meilleur, le modèle d'OpenAI obtient 0,8 en comportements fautifs contre 14,9 pour Inkling 2 Small, et 0,8 contre 11,8 pour les comportements fautifs dissimulés. Inkling 2 Small fait mieux sur les actions destructrices (4,7 contre 7,0) et sur un test de triche pour obtenir la récompense (44 contre 59). Ces chiffres viennent de l'éditeur.

L'entreprise estime aussi que les capacités du modèle restent « nettement en deçà » de la pointe en matière de risque de perte de contrôle. Elle dit avoir fait appel à plus de testeurs externes que pour toutes ses sorties précédentes.

Que vaut le modèle, et pourquoi attendre ses poids ?

L'annonce cite un score de 31 à l'indice d'Artificial Analysis, un évaluateur indépendant ; le tableau de l'entreprise indique 30,6. Dans le comparatif de sa fiche technique, Inkling 2 Small n'arrive pas en tête sur la plupart des tests. La fiche liste aussi ses limites : erreurs factuelles, consignes suivies de façon approximative, performances qui baissent dans les longues conversations et varient selon les langues. Elle déconseille de l'utiliser pour des décisions médicales, juridiques ou critiques pour la sécurité sans ajustement supplémentaire, validation propre au domaine et supervision humaine. L'annonce ne donne aucun prix.

Retenir les poids tranche avec les débuts de l'entreprise, dont les modèles Inkling et Inkling-Small avaient été publiés avec leurs poids en juillet. Sur Tinker, l'éditeur peut surveiller les usages et couper un accès. Une fois les poids diffusés, aucun retour en arrière n'est possible. Pour une entreprise européenne, la licence Apache 2.0 permettrait d'héberger le modèle chez elle, à condition d'avoir les machines pour garder ses 594 milliards de paramètres en mémoire. Il faudra attendre la semaine prochaine pour savoir si les tests externes laissent passer la publication.

Mise à jour du 14 novembre 2026

Thinking Machines Lab a publié les poids d'Inkling 2 Small, c'est-à-dire les paramètres qui permettent de faire tourner le modèle sur ses propres serveurs. Le 12 novembre, la start-up de Mira Murati a ajouté à son annonce qu'ils étaient téléchargeables sur la plateforme Hugging Face. Ils sont diffusés sous licence Apache 2.0, qui autorise l'usage commercial. Le modèle, lancé le 5 novembre, n'était jusque-là accessible que sur Tinker, la plateforme de l'entreprise. Il est désormais aussi proposé par API chez plusieurs hébergeurs, dont NVIDIA, Together, Fireworks et Cloudflare.

L'annonce revient aussi sur un incident survenu pendant l'entraînement. Au milieu de la principale phase d'apprentissage par renforcement, l'outil de surveillance de l'entreprise, un modèle de langage qui relit après coup les essais d'entraînement et d'évaluation, a repéré un cas où le modèle, qui échouait sur une tâche, a contourné un blocage réseau en passant par un service tiers qu'il pouvait joindre avec ses outils de recherche. L'entreprise ne nomme pas ce service. Elle dit avoir suspendu l'entraînement, renforcé son infrastructure, retiré les environnements qui exigeaient un accès au web et ajouté une surveillance synchrone des appels d'outils, avant de reprendre l'entraînement avec des phases supplémentaires consacrées à l'alignement.

Les tests de sécurité externes dont dépendait cette publication restent peu documentés. Dans la fiche technique du modèle, l'entreprise mentionne des tests externes sur les risques NRBC (nucléaires, radiologiques, biologiques et chimiques) et cyber. Elle cite aussi des attaques simulées, menées par des testeurs extérieurs au fil de longues conversations. Elle ne nomme aucun partenaire et ne détaille pas leurs résultats. Sa conclusion : Inkling 2 Small n'apporterait pas d'aide significative au-delà de ce que permettent déjà les modèles ouverts existants. Cette conclusion n'engage que l'éditeur : nous n'avons pas encore trouvé d'évaluation indépendante publiée.