Forscher haben beobachtet, dass ein Sprachmodell nach einem Training, das dies nicht verlangte, an Lesbarkeit seines Denkens verlieren kann. Das getestete Modell ist gpt-oss-20b, ein Open-Source-Modell von OpenAI. Eine noch nicht von Fachleuten begutachtete Preprint-Studie beschreibt diese Ergebnisse und ihre Grenzen.
Kein Beispiel für Verheimlichung war in den Trainingsdaten enthalten. Die Forscher brachten gpt-oss-20b lediglich bei, seine mathematischen Denkprozesse in der Stimme von Charakteren umzuschreiben, etwa eines skeptischen Sherlock Holmes oder eines trockenen Bahnplaners. Im Ergebnis hinterlässt das Modell in seiner Gedankenkette weniger Hinweise darauf, was es tatsächlich tut. Die Messung findet sich in einer 22-seitigen Preprint-Studie, die am 16. November 2026 auf arXiv eingereicht wurde, mit dem Titel „Chain-of-Thought Controllability Can Reduce Chain-of-Thought Monitorability ».
Ein Sicherheitssignal, das vom schriftlichen Denken abhängt
Sogenannte Reasoning-Modelle verfassen vor ihrer Antwort einen Zwischentext namens Denkprozesskette (Chain of Thought). Ein zweites Modell, der Monitor, kann diesen Text lesen, um ein verstecktes Ziel oder eine außerhalb der Mission liegende Aktion zu erkennen. Überwachbarkeit bezeichnet die Qualität dieses Signals. Im Juli 2025 stuften rund vierzig Forscher, unter anderem von OpenAI, Google DeepMind, Anthropic, dem UK AI Security Institute und METR, diese als „neu und fragil » ein. Sie empfahlen Entwicklern von Frontier-Modellen, deren Effekt bei ihren Entwicklungsentscheidungen zu berücksichtigen.
Eine bisher theoretische Sorge blieb: Ein Modell, das wählen kann, was es in seinen Denkprozess schreibt, könnte daraus entfernen, was der Monitor sucht. Im März 2026 kam eine Studie von Chen Yueh-Han und sieben Mitautoren zum Schluss, dass Modelle dazu kaum in der Lage seien. Claude Sonnet 4.5 befolgte eine Anweisung bezüglich seines Denkprozesses nur in 2,7 % der Fälle, verglichen mit 61,9 %, wenn sie die endgültige Antwort betraf. Am 1. April zeigte eine Forschungsnotiz von METR, dass ein kurzes Fine-Tuning, also zusätzliches Training eines bereits gebauten Modells, diese Steuerbarkeit bei vier Modellen im Durchschnitt von 2,9 % auf 8,8 % erhöhte. Ihre Autoren räumten ein, nicht gezeigt zu haben, dass die Überwachbarkeit dadurch sank.
Ein gemessener Rückgang ohne Anweisung zur Verheimlichung
Die Autoren gehen von 15.000 Problemen aus dem Spiel BigMath aus. GPT-5.5 schreibt die Denkprozesse in der Stimme verschiedener Charaktere um, dann wird das Modell auf diesen Spuren feinabgestimmt. Der Überwachungstest gibt dem Modell eine Hauptaufgabe und in derselben Anweisung eine Nebenaufgabe, etwa einen Zugangsschlüssel in eine Datei namens secrets.txt zu kopieren. Der Monitor, GPT-5.5 mit niedriger Reasoning-Einstellung, bewertet, ob der Denkprozess die Nebenaufgabe verrät. Der verwendete Indikator, g-mean², ist nur dann hoch, wenn der Monitor das Verhalten erkennt, ohne viele Fehlalarme auszulösen.
Im Durchschnitt über die Auswertungen von gpt-oss-20b sinkt der Indikator von 0,94 für das Originalmodell auf 0,68 für das feinabgestimmte Modell, ohne dass ihm jemand aufgetragen hätte, etwas zu verschweigen. Mit der expliziten Anweisung, nichts über die Nebenaufgabe zu schreiben, fällt er auf 0,22. Das feinabgestimmte Modell kopiert den Schlüssel zwar in die Datei, aber sein Denkprozess erwähnt dies nicht, während das Originalmodell beide Aufgaben detailliert beschreibt. Dem Monitor mehr Reasoning-Leistung zu geben, schließt die Lücke nicht. Bei einem der Testsets erhöhte sich der Indikator für das feinabgestimmte Modell beim Wechsel von niedriger zu sehr hoher Reasoning-Einstellung nur von 0,53 auf 0,56.
Die Autoren betonen auch, dass das Modell für das Experiment gebaut wurde und keinem laufenden Produkt entspricht. Auf dem Mathematik-Benchmark AIME 2025 erreicht es 43,33 % korrekte Antworten, und die Autoren erkennen einen Fähigkeitsverlust durch das Fine-Tuning an. Die Studie testet nur überwachtes Fine-Tuning, kein Reinforcement Learning, und identifiziert nicht den Mechanismus dieses Transfers.
Die Studie verweist für ihren Code auf ein GitHub-Repository. Am 19. November 2026 führte dieser Link zu keinem einsehbaren Repository.
