Dizer « obrigado » a um assistente de IA custa pouco, mas cada mensagem reenvia toda a conversa, e o custo energético aumenta com a sua duração. Segundo uma análise publicada em forma de tribuna, é portanto a duração dos intercâmbios, mais do que a cortesia, que pesa na fatura, e o autor propõe um método para a limitar.
O ponto de partida é um cálculo difundido no LinkedIn, que estimava o custo dos « obrigados » dirigidos ao ChatGPT e ao Claude a partir de 120 milhões de utilizadores e de 8 agradecimentos por dia, ou seja, cerca de 350 mil milhões de « obrigados » por ano. Com a calculadora usada pelo autor, um « obrigado » isolado dirigido a um modelo do tamanho do Claude Sonnet 5.5 representa cerca de 23 GWh por ano, contra menos de 1 GWh para um modelo pequeno. A escolha do modelo pesa portanto cerca de trinta vezes mais do que a cortesia.
O verdadeiro fator, segundo o autor, reside na forma como funcionam estas ferramentas. Um modelo de linguagem não tem memória de uma mensagem para a outra: a aplicação reenvia-lhe, a cada turno, toda ou parte da troca, ou seja, as mensagens, as respostas, as instruções e os documentos anexos. Um « obrigado » enviado no final de uma longa troca vem assim acompanhado de milhares de tokens, isto é, as unidades de texto que o modelo processa. No cenário considerado, com 5 000 tokens reenviados, a energia estimada é multiplicada por dez, e o valor à tarifa da API passa de cerca de 100 milhões para 3,6 mil milhões de dólares por ano.
Um custo que cresce mais rápido do que a conversa
Cada novo intercâmbio repete todos os anteriores: à centésima mensagem, o modelo processa de novo as outras noventa e nove. Para um projeto de 60 intercâmbios, com mensagens de 200 tokens, respostas de 300 tokens e 1 500 tokens de instruções e ficheiros, o modelo tem de processar perto de um milhão de tokens no total.
Os fornecedores dispõem de um mecanismo de cache, que permite reler a um custo menor um histórico já processado. Na Anthropic, uma leitura em cache é faturada de 10 a 40 vezes mais barato do que um token de entrada, consoante o modelo: 20 vezes para o Sonnet 5.5 e Opus 5.5, 40 vezes para o Fable 5.1, 10 vezes para o Haiku 5.5. O cache alivia portanto a fatura, mas não resolve a questão da duração.
Mais longo, e menos fiável
Uma conversa que se prolonga também responde pior. Já em 2023, investigadores de Stanford liderados por Nelson Liu mostraram que os modelos exploram mal a informação colocada no meio de um contexto longo. Em julho de 2025, a empresa Chroma testou 18 modelos, incluindo o o3, o Claude 4 e o Gemini 2.5, em tarefas simples e controladas: a sua fiabilidade diminui à medida que a entrada se alonga. O modo de raciocínio melhora as pontuações, sem apagar a diferença entre versão curta e versão longa.
O banco de ensaio NoLiMa, apresentado na conferência ICML 2025 pela Adobe Research e pela universidade LMU de Munique, vai no mesmo sentido. Num subconjunto de 10 questões das mais difíceis, o modelo de raciocínio o1 da OpenAI responde corretamente em 92 % dos casos com 4 000 tokens de contexto, 78 % a 8 000 tokens e 31 % a 32 000 tokens. Uma pré-publicação de 2026, intitulada « Reasoning Shift », indica além disso que um histórico de conversa reduz a duração do raciocínio dos modelos e a sua capacidade de verificar o seu próprio trabalho.
O método da conversa mãe
O autor propõe organizar o trabalho antes de começar. Uma conversa « mãe » fixa o objetivo, divide o projeto em tarefas e não produz os entregáveis. Cada tarefa é confiada a uma conversa « filha », aberta por um briefing que especifica o objetivo, o formato esperado, as fontes e os limites, depois fechada no final. Os documentos de referência ficam numa pasta e só são chamados quando uma filha precisa deles. Cada filha só remete à mãe um relatório curto, revisto pelo utilizador, e o modelo é escolhido na abertura de cada conversa, de acordo com a tarefa.
Segundo os cálculos apresentados, o projeto de 60 intercâmbios torna-se seis filhas de dez intercâmbios, pilotadas por uma mãe. Comparada com uma conversa única realizada no modelo principal, o método seria de 7 a 16 % mais sóbrio em energia e de 22 a 28 % mais barato. Se a mãe redigir respostas duas vezes mais longas, o ganho energético cai para 20 a 39 %. O autor especifica que estes números permanecem teóricos, nomeadamente a taxa de retomas evitadas, e que o método EcoLogits, usado para estimar os modelos da OpenAI, da Google ou da Mistral, só conta os tokens produzidos. Segundo ele, os fornecedores deveriam publicar a energia consumida por token lido, escrito e relido em cache, pois sem estes dados, as estimativas assentam em aproximações.
