Decir « gracias » a un asistente de IA cuesta poco, pero cada mensaje reenvía toda la conversación, y el coste energético aumenta con su longitud. Según un análisis publicado en forma de tribuna, es por tanto la duración de los intercambios, más que la cortesía, lo que pesa en la factura, y el autor propone un método para limitarla.
El punto de partida es un cálculo difundido en LinkedIn, que estimaba el coste de los « gracias » dirigidos a ChatGPT y a Claude a partir de 120 millones de usuarios y de 8 agradecimientos al día, es decir, unos 350.000 millones de « gracias » al año. Con la calculadora utilizada por el autor, un « gracias » aislado dirigido a un modelo del tamaño de Claude Sonnet 5.5 representa unos 23 GWh al año, frente a menos de 1 GWh para un modelo pequeño. La elección del modelo pesa por tanto unas treinta veces más que la cortesía.
El verdadero factor, según el autor, radica en cómo funcionan estas herramientas. Un modelo de lenguaje no tiene memoria de un mensaje a otro: la aplicación le reenvía, en cada turno, todo o parte del intercambio, es decir, los mensajes, las respuestas, las instrucciones y los documentos adjuntos. Un « gracias » enviado al final de un intercambio largo va acompañado así de miles de tokens, es decir, las unidades de texto que el modelo procesa. En el escenario considerado, con 5.000 tokens reenviados, la energía estimada se multiplica por diez, y el valor al precio de la API pasa de unos 100 millones a 3.600 millones de dólares al año.
Un coste que crece más rápido que la conversación
Cada nuevo intercambio repite todos los anteriores: en el centésimo mensaje, el modelo procesa de nuevo los otros noventa y nueve. Para un proyecto de 60 intercambios, con mensajes de 200 tokens, respuestas de 300 tokens y 1.500 tokens de instrucciones y archivos, el modelo debe procesar cerca de un millón de tokens en total.
Los proveedores disponen de un mecanismo de cache, que permite releer a menor coste un historial ya procesado. En Anthropic, una lectura en caché se factura de 10 a 40 veces más barata que un token de entrada, según el modelo: 20 veces para Sonnet 5.5 y Opus 5.5, 40 veces para Fable 5.1, 10 veces para Haiku 5.5. La caché aligera por tanto la factura, pero no resuelve la cuestión de la longitud.
Más largo, y menos fiable
Una conversación que se alarga también responde peor. Ya en 2023, investigadores de Stanford liderados por Nelson Liu mostraron que los modelos aprovechan mal la información situada en medio de un contexto largo. En julio de 2025, la empresa Chroma probó 18 modelos, incluyendo o3, Claude 4 y Gemini 2.5, en tareas simples y controladas: su fiabilidad disminuye a medida que la entrada se alarga. El modo de razonamiento mejora las puntuaciones, sin borrar la diferencia entre versión corta y versión larga.
El banco de pruebas NoLiMa, presentado en la conferencia ICML 2025 por Adobe Research y la universidad LMU de Múnich, va en la misma dirección. En un subconjunto de 10 preguntas entre las más difíciles, el modelo de razonamiento o1 de OpenAI responde correctamente en el 92 % de los casos con 4.000 tokens de contexto, el 78 % a 8.000 tokens y el 31 % a 32.000 tokens. Una prepublicación de 2026, titulada « Reasoning Shift », indica además que un historial de conversación reduce la duración del razonamiento de los modelos y su capacidad para verificar su propio trabajo.
El método de la conversación madre
El autor propone organizar el trabajo antes de empezar. Una conversación « madre » fija el objetivo, divide el proyecto en tareas y no produce los entregables. Cada tarea se confía a una conversación « hija », abierta por un briefing que precisa el objetivo, el formato esperado, las fuentes y los límites, y luego cerrada al final. Los documentos de referencia permanecen en una carpeta y solo se llaman cuando una hija los necesita. Cada hija solo remonta a la madre un informe corto, revisado por el usuario, y el modelo se elige al abrir cada conversación, según la tarea.
Según los cálculos presentados, el proyecto de 60 intercambios se convierte en seis hijas de diez intercambios, dirigidas por una madre. Comparada con una conversación única llevada a cabo en el modelo principal, el método sería de un 7 a un 16 % más sobrio en energía y de un 22 a un 28 % más barato. Si la madre redacta respuestas dos veces más largas, la ganancia energética cae al 20-39 %. El autor precisa que estas cifras siguen siendo teóricas, en particular la tasa de revisiones evitadas, y que el método EcoLogits, utilizado para estimar los modelos de OpenAI, Google o Mistral, solo cuenta los tokens producidos. Según él, los proveedores deberían publicar la energía consumida por token leído, escrito y releído en caché, pues sin estos datos, las estimaciones se basan en aproximaciones.
