Dire « merci » à un assistant d’IA coûte peu, mais chaque message renvoie l’ensemble de la conversation, et le coût énergétique augmente avec sa longueur. Selon une analyse publiée sous forme de tribune, c’est donc la durée des échanges, plus que la politesse, qui pèse dans la facture, et l’auteur propose une méthode pour la limiter.
- Dire « merci » coûte peu, mais chaque message renvoie toute la conversation.
- Le coût énergétique augmente avec la longueur des échanges.
- Les conversations longues rendent aussi les réponses moins fiables.
- Découper le projet en conversations courtes limite la facture et l’énergie consommée.
Le point de départ est un calcul diffusé sur LinkedIn, qui estimait le coût des « merci » adressés à ChatGPT et à Claude à partir de 120 millions d’utilisateurs et de 8 remerciements par jour, soit environ 350 milliards de « merci » par an. Avec le calculateur utilisé par l’auteur, un « merci » isolé adressé à un modèle de la taille de Claude Sonnet 5.5 représente environ 23 GWh par an, contre moins de 1 GWh pour un petit modèle. Le choix du modèle pèse donc environ trente fois plus que la politesse.
Le vrai facteur, selon l’auteur, tient à la façon dont fonctionnent ces outils. Un modèle de langage n’a pas de mémoire d’un message à l’autre : l’application lui renvoie, à chaque tour, tout ou partie de l’échange, soit les messages, les réponses, les consignes et les documents joints. Un « merci » envoyé en fin de long échange s’accompagne ainsi de milliers de tokens, c’est-à-dire les unités de texte que le modèle traite. Dans le scénario retenu, avec 5 000 tokens renvoyés, l’énergie estimée est multipliée par dix, et la valeur au tarif de l’API passe d’environ 100 millions à 3,6 milliards de dollars par an.
Un coût qui croît plus vite que la conversation
Chaque nouvel échange rejoue tous les précédents : au centième message, le modèle traite de nouveau les quatre-vingt-dix-neuf autres. Pour un projet de 60 échanges, avec des messages de 200 tokens, des réponses de 300 tokens et 1 500 tokens de consignes et de fichiers, le modèle doit traiter près d’un million de tokens au total.
Les fournisseurs disposent d’un mécanisme de cache, qui permet de relire à moindre coût un historique déjà traité. Chez Anthropic, une lecture en cache est facturée de 10 à 40 fois moins cher qu’un token d’entrée, selon le modèle : 20 fois pour Sonnet 5.5 et Opus 5.5,40 fois pour Fable 5.1,10 fois pour Haiku 5.5. Le cache allège donc la facture, mais il ne résout pas la question de la longueur.
Plus long, et moins fiable
Une conversation qui s’allonge répond aussi moins bien. Dès 2023, des chercheurs de Stanford emmenés par Nelson Liu ont montré que les modèles exploitent mal l’information placée au milieu d’un long contexte. En juillet 2025, la société Chroma a testé 18 modèles, dont o3, Claude 4 et Gemini 2.5, sur des tâches simples et contrôlées : leur fiabilité diminue à mesure que l’entrée s’allonge. Le mode de raisonnement améliore les scores, sans effacer l’écart entre version courte et version longue.
Le banc d’essai NoLiMa, présenté à la conférence ICML 2025 par Adobe Research et l’université LMU de Munich, va dans le même sens. Sur un sous-ensemble de 10 questions parmi les plus difficiles, le modèle de raisonnement o1 d’OpenAI répond juste dans 92 % des cas avec 4 000 tokens de contexte, 78 % à 8 000 tokens et 31 % à 32 000 tokens. Une prépublication de 2026, intitulée « Reasoning Shift », indique par ailleurs qu’un historique de conversation réduit la durée de raisonnement des modèles et leur capacité à vérifier leur propre travail.
La méthode de la conversation mère
L’auteur propose d’organiser le travail avant de commencer. Une conversation « mère » fixe l’objectif, découpe le projet en tâches et ne produit pas les livrables. Chaque tâche est confiée à une conversation « fille », ouverte par un brief qui précise l’objectif, le format attendu, les sources et les limites, puis fermée à la fin. Les documents de référence restent dans un dossier et ne sont appelés que lorsqu’une fille en a besoin. Chaque fille ne remonte à la mère qu’un compte rendu court, relu par l’utilisateur, et le modèle est choisi à l’ouverture de chaque conversation, selon la tâche.
Selon les calculs présentés, le projet de 60 échanges devient six filles de dix échanges, pilotées par une mère. Comparée à une conversation unique menée sur le modèle principal, la méthode serait de 7 à 16 % plus sobre en énergie et de 22 à 28 % moins chère. Si la mère rédige des réponses deux fois plus longues, le gain énergétique tombe à 20 à 39 %. L’auteur précise que ces chiffres restent théoriques, notamment le taux de reprises évitées, et que la méthode EcoLogits, utilisée pour estimer les modèles d’OpenAI, de Google ou de Mistral, ne compte que les tokens produits. Selon lui, les fournisseurs devraient publier l’énergie consommée par token lu, écrit et relu en cache, car sans ces données, les estimations reposent sur des approximations.
