Een ‘dankjewel’ zeggen tegen een AI-assistent kost weinig, maar elk bericht stuurt het hele gesprek opnieuw mee, en het energieverbruik stijgt met de lengte ervan. Volgens een analyse gepubliceerd als opiniestuk is het dus de duur van de uitwisselingen, meer dan de beleefdheid, die de rekening bepaalt, en de auteur stelt een methode voor om deze te beperken.
Het vertrekpunt is een berekening verspreid op LinkedIn, die de kosten van ‘dankjewel’-berichten aan ChatGPT en Claude schatte op basis van 120 miljoen gebruikers en 8 dankbetuigingen per dag, ofwel ongeveer 350 miljard ‘dankjewel’-berichten per jaar. Met de rekenmethode van de auteur vertegenwoordigt een geïsoleerd ‘dankjewel’ aan een model van het formaat van Claude Sonnet 5.5 ongeveer 23 GWh per jaar, tegen minder dan 1 GWh voor een klein model. De keuze van het model weegt dus ongeveer dertig keer zwaarder dan de beleefdheid.
De echte factor, volgens de auteur, zit in de werking van deze tools. Een taalmodel heeft geen geheugen van het ene bericht naar het andere: de applicatie stuurt bij elke beurt het hele gesprek of een deel ervan terug, dus de berichten, antwoorden, instructies en bijgevoegde documenten. Een ‘dankjewel’ aan het einde van een lang gesprek gaat dus gepaard met duizenden tokens, dat wil zeggen de teksteenheden die het model verwerkt. In het gekozen scenario, met 5.000 tokens die worden teruggestuurd, wordt de geschatte energie tien keer zo hoog, en de waarde tegen het API-tarief stijgt van ongeveer 100 miljoen naar 3,6 miljard dollar per jaar.
Een kost die sneller stijgt dan het gesprek
Elke nieuwe uitwisseling herhaalt alle vorige: bij het honderdste bericht verwerkt het model opnieuw de negenennegentig andere. Voor een project van 60 uitwisselingen, met berichten van 200 tokens, antwoorden van 300 tokens en 1.500 tokens aan instructies en bestanden, moet het model in totaal bijna een miljoen tokens verwerken.
De aanbieders hebben een cache-mechanisme, dat het goedkoper maakt om een reeds verwerkte geschiedenis opnieuw te lezen. Bij Anthropic kost een cache-lezing 10 tot 40 keer minder dan een invoertoken, afhankelijk van het model: 20 keer voor Sonnet 5.5 en Opus 5.5, 40 keer voor Fable 5.1, 10 keer voor Haiku 5.5. De cache verlicht dus de rekening, maar lost de kwestie van de lengte niet op.
Langer, en minder betrouwbaar
Een gesprek dat langer wordt, presteert ook minder goed. Al in 2023 toonden onderzoekers van Stanford onder leiding van Nelson Liu aan dat modellen slecht gebruikmaken van informatie die in het midden van een lange context staat. In juli 2025 testte het bedrijf Chroma 18 modellen, waaronder o3, Claude 4 en Gemini 2.5, op eenvoudige en gecontroleerde taken: hun betrouwbaarheid neemt af naarmate de invoer langer wordt. De redeneermodus verbetert de scores, maar wist het verschil tussen korte en lange versie niet uit.
De benchmark NoLiMa, gepresenteerd op de ICML 2025-conferentie door Adobe Research en de LMU-universiteit van München, gaat in dezelfde richting. Op een subset van 10 van de moeilijkste vragen, geeft het redeneermodel o1 van OpenAI in 92% van de gevallen het juiste antwoord met 4.000 tokens context, 78% bij 8.000 tokens en 31% bij 32.000 tokens. Een preprint uit 2026, getiteld « Reasoning Shift », geeft bovendien aan dat een gespreksgeschiedenis de redeneertijd van modellen en hun vermogen om hun eigen werk te controleren vermindert.
De moedergesprek-methode
De auteur stelt voor het werk te organiseren voordat men begint. Een ‘moeder’-gesprek bepaalt het doel, verdeelt het project in taken en produceert niet de eindresultaten. Elke taak wordt toevertrouwd aan een ‘dochter’-gesprek, geopend met een briefing die het doel, het verwachte formaat, de bronnen en de grenzen specificeert, en vervolgens gesloten aan het einde. De referentiedocumenten blijven in een map en worden alleen opgeroepen wanneer een dochter ze nodig heeft. Elke dochter stuurt alleen een kort verslag terug naar de moeder, nagekeken door de gebruiker, en het model wordt gekozen bij het openen van elk gesprek, afhankelijk van de taak.
Volgens de gepresenteerde berekeningen wordt het project van 60 uitwisselingen zes dochters van tien uitwisselingen, aangestuurd door een moeder. Vergeleken met een enkel gesprek gevoerd op het hoofdmodel, zou de methode 7 tot 16% energiezuiniger en 22 tot 28% goedkoper zijn. Als de moeder antwoorden schrijft die twee keer zo lang zijn, daalt de energiebesparing naar 20 tot 39%. De auteur preciseert dat deze cijfers theoretisch blijven, met name het percentage vermeden herhalingen, en dat de EcoLogits-methode, gebruikt om de modellen van OpenAI, Google of Mistral te schatten, alleen de geproduceerde tokens telt. Volgens hem zouden aanbieders de energie per gelezen, geschreven en in cache herlezen token moeten publiceren, want zonder deze gegevens zijn schattingen gebaseerd op benaderingen.
