Einem KI-Assistenten « Danke » zu sagen, kostet wenig, aber jede Nachricht sendet den gesamten Gesprächsverlauf zurück, und der Energieverbrauch steigt mit seiner Länge. Laut einer als Gastbeitrag veröffentlichten Analyse ist es daher die Dauer der Austausche, mehr als die Höflichkeit, die auf die Rechnung schlägt, und der Autor schlägt eine Methode vor, um sie zu begrenzen.
Der Ausgangspunkt ist eine auf LinkedIn verbreitete Berechnung, die die Kosten der an ChatGPT und Claude gerichteten « Dankeschöns » auf Basis von 120 Millionen Nutzern und 8 Dankesbezeugungen pro Tag schätzte, also etwa 350 Milliarden « Dankeschöns » pro Jahr. Mit dem vom Autor verwendeten Rechner entspricht ein isoliertes « Danke » an ein Modell der Größe von Claude Sonnet 5.5 etwa 23 GWh pro Jahr, gegenüber weniger als 1 GWh für ein kleines Modell. Die Modellwahl wiegt also etwa dreißigmal schwerer als die Höflichkeit.
Der wahre Faktor liegt laut Autor in der Funktionsweise dieser Tools. Ein Sprachmodell hat kein Gedächtnis von einer Nachricht zur nächsten: Die Anwendung sendet ihm bei jedem Durchlauf den gesamten oder einen Teil des Austauschs zurück, also die Nachrichten, Antworten, Anweisungen und angehängten Dokumente. Ein « Danke », das am Ende eines langen Austauschs gesendet wird, geht somit mit Tausenden von Tokens einher, also den Texteinheiten, die das Modell verarbeitet. Im gewählten Szenario mit 5.000 zurückgesendeten Tokens verzehnfacht sich die geschätzte Energie, und der Wert zum API-Tarif steigt von etwa 100 Millionen auf 3,6 Milliarden Dollar pro Jahr.
Ein Kostenanstieg schneller als das Gespräch
Jeder neue Austausch spielt alle vorherigen erneut ab: Bei der hundertsten Nachricht verarbeitet das Modell erneut die neunundneunzig anderen. Für ein Projekt mit 60 Austauschen, mit Nachrichten von 200 Tokens, Antworten von 300 Tokens und 1.500 Tokens an Anweisungen und Dateien, muss das Modell insgesamt fast eine Million Tokens verarbeiten.
Die Anbieter verfügen über einen Cache-Mechanismus, der es ermöglicht, einen bereits verarbeiteten Verlauf kostengünstiger erneut zu lesen. Bei Anthropic kostet ein Cache-Lesevorgang je nach Modell 10- bis 40-mal weniger als ein Eingabe-Token: 20-mal für Sonnet 5.5 und Opus 5.5, 40-mal für Fable 5.1, 10-mal für Haiku 5.5. Der Cache mildert also die Rechnung, löst aber nicht die Frage der Länge.
Länger und weniger zuverlässig
Ein sich verlängerndes Gespräch antwortet auch schlechter. Bereits 2023 zeigten Forscher von Stanford unter der Leitung von Nelson Liu, dass Modelle Informationen in der Mitte eines langen Kontexts schlecht nutzen. Im Juli 2025 testete das Unternehmen Chroma 18 Modelle, darunter o3, Claude 4 und Gemini 2.5, an einfachen, kontrollierten Aufgaben: Ihre Zuverlässigkeit nimmt ab, je länger die Eingabe wird. Der Denkmodus verbessert die Ergebnisse, beseitigt aber nicht die Kluft zwischen kurzer und langer Version.
Die Benchmark NoLiMa, vorgestellt auf der ICML-Konferenz 2025 von Adobe Research und der LMU München, geht in die gleiche Richtung. Bei einer Teilmenge von 10 der schwierigsten Fragen antwortet das Reasoning-Modell o1 von OpenAI in 92 % der Fälle korrekt mit 4.000 Tokens Kontext, bei 8.000 Tokens in 78 % und bei 32.000 Tokens in 31 %. Eine Vorveröffentlichung von 2026 mit dem Titel « Reasoning Shift » weist zudem darauf hin, dass ein Gesprächsverlauf die Denkdauer der Modelle und ihre Fähigkeit, ihre eigene Arbeit zu überprüfen, reduziert.
Die Methode des Muttergesprächs
Der Autor schlägt vor, die Arbeit vor Beginn zu organisieren. Ein « Mutter »-Gespräch legt das Ziel fest, unterteilt das Projekt in Aufgaben und erstellt keine fertigen Ergebnisse. Jede Aufgabe wird einem « Tochter »-Gespräch anvertraut, das mit einem Briefing eröffnet wird, das Ziel, erwartetes Format, Quellen und Grenzen präzisiert, und am Ende geschlossen wird. Referenzdokumente bleiben in einem Ordner und werden nur aufgerufen, wenn eine Tochter sie benötigt. Jede Tochter leitet der Mutter nur einen kurzen, vom Nutzer geprüften Bericht weiter, und das Modell wird bei der Eröffnung jedes Gesprächs je nach Aufgabe gewählt.
Laut den vorgestellten Berechnungen wird das Projekt mit 60 Austauschen zu sechs Töchtern mit je zehn Austauschen, gesteuert von einer Mutter. Verglichen mit einem einzigen Gespräch, das mit dem Hauptmodell geführt wird, wäre die Methode 7 bis 16 % energieeffizienter und 22 bis 28 % günstiger. Wenn die Mutter Antworten verfasst, die doppelt so lang sind, sinkt der Energiegewinn auf 20 bis 39 %. Der Autor weist darauf hin, dass diese Zahlen theoretisch bleiben, insbesondere die Rate der vermiedenen Wiederholungen, und dass die Methode EcoLogits, die zur Schätzung der Modelle von OpenAI, Google oder Mistral verwendet wird, nur die produzierten Tokens zählt. Seiner Ansicht nach sollten Anbieter die Energie pro gelesenem, geschriebenem und im Cache erneut gelesenem Token veröffentlichen, denn ohne diese Daten basieren Schätzungen auf Annäherungen.
