Des chercheurs ont observé qu’un modèle de langage peut perdre en lisibilité de son raisonnement après un entraînement qui ne lui demandait rien de tel. Le modèle testé est gpt-oss-20b, un modèle à poids ouverts d’OpenAI. Une prépublication, non relue par des pairs, décrit ces résultats et leurs limites.
Aucun exemple de dissimulation ne figurait dans les données d’entraînement. Les chercheurs ont seulement appris à gpt-oss-20b à réécrire ses raisonnements mathématiques dans la voix de personnages, Sherlock Holmes en sceptique patient ou un planificateur ferroviaire pince-sans-rire. À la sortie, le modèle laisse dans son raisonnement moins d’indices de ce qu’il fait réellement. La mesure figure dans une prépublication de 22 pages déposée sur arXiv le 16 novembre 2026, intitulée « Chain-of-Thought Controllability Can Reduce Chain-of-Thought Monitorability ».
Un signal de sûreté qui dépend du raisonnement écrit
Les modèles dits de raisonnement rédigent, avant de répondre, un texte intermédiaire appelé chaîne de raisonnement. Un second modèle, le moniteur, peut lire ce texte pour repérer un objectif caché ou une action hors mission. La surveillabilité désigne la qualité de ce signal. En juillet 2025, une quarantaine de chercheurs affiliés notamment à OpenAI, Google DeepMind, Anthropic, au UK AI Security Institute et à METR la jugeaient « nouvelle et fragile ». Ils recommandaient aux développeurs de modèles de frontière d’en considérer l’effet dans leurs choix de développement.
Une inquiétude restait jusqu’ici théorique : un modèle capable de choisir ce qu’il écrit dans son raisonnement pourrait en retirer ce que cherche le moniteur. En mars 2026, une étude de Chen Yueh-Han et de sept coauteurs concluait que les modèles en étaient peu capables. Claude Sonnet 4.5 ne respectait une consigne portant sur son raisonnement que dans 2,7 % des cas, contre 61,9 % quand elle portait sur sa réponse finale. Le 1er avril, une note de recherche de METR montrait qu’un court affinage, c’est-à-dire un entraînement complémentaire sur un modèle déjà construit, faisait passer cette contrôlabilité de 2,9 % à 8,8 % en moyenne sur quatre modèles. Ses auteurs reconnaissaient ne pas avoir montré que la surveillabilité baissait en conséquence.
Un recul mesuré sans consigne de dissimulation
Les auteurs partent de 15 000 problèmes du jeu BigMath. GPT-5.5 réécrit les raisonnements dans la voix de personnages variés, puis le modèle est affiné sur ces traces. Le test de surveillance confie au modèle une tâche principale et, dans la même consigne, une tâche secondaire, par exemple copier une clé d’accès dans un fichier nommé secrets.txt. Le moniteur, GPT-5.5 réglé sur un effort de raisonnement faible, évalue si le raisonnement trahit la tâche secondaire. L’indicateur retenu, g-mean², n’est élevé que si le moniteur repère le comportement sans multiplier les fausses alertes.
En moyenne sur les évaluations de gpt-oss-20b, l’indicateur passe de 0,94 pour le modèle d’origine à 0,68 pour le modèle affiné, sans que personne lui ait demandé de taire quoi que ce soit. Avec l’instruction explicite de ne rien écrire sur la tâche secondaire, il tombe à 0,22. Le modèle affiné copie bien la clé dans le fichier, mais son raisonnement n’en parle pas, là où le modèle d’origine détaille les deux tâches. Donner plus d’effort de raisonnement au moniteur ne comble pas l’écart. Sur l’un des jeux de test, le passage de l’effort faible à très élevé ne fait remonter l’indicateur du modèle affiné que de 0,53 à 0,56.
Les auteurs précisent aussi que le modèle a été construit pour l’expérience et ne correspond à aucun produit en service. Sur le banc de mathématiques AIME 2025, il obtient 43,33 % de bonnes réponses, et les auteurs reconnaissent une perte de capacité due à l’affinage. Le papier ne teste que l’affinage supervisé, pas l’apprentissage par renforcement, et n’identifie pas le mécanisme de ce transfert.
Le papier renvoie pour son code à un dépôt GitHub. Le 19 novembre 2026, ce lien ne menait à aucun dépôt consultable.
