Сказать « спасибо » ИИ-ассистенту стоит недорого, но каждое сообщение отправляет ему весь диалог целиком, и энергозатраты растут с его длиной. Согласно анализу, опубликованному в виде колонки, именно продолжительность общения, а не вежливость, влияет на счет, и автор предлагает метод, как ее ограничить.
Отправной точкой стал расчет, распространенный в LinkedIn, который оценивал стоимость « спасибо », адресованных ChatGPT и Claude, исходя из 120 миллионов пользователей и 8 благодарностей в день, то есть около 350 миллиардов « спасибо » в год. По калькулятору, использованному автором, одно изолированное « спасибо », адресованное модели размером с Claude Sonnet 5.5, составляет около 23 ГВт·ч в год, против менее 1 ГВт·ч для маленькой модели. Таким образом, выбор модели весит примерно в тридцать раз больше, чем вежливость.
Настоящий фактор, по мнению автора, заключается в том, как работают эти инструменты. Языковая модель не имеет памяти от одного сообщения к другому: приложение при каждом новом запросе отправляет ей всю диалоговую историю или ее часть, то есть сообщения, ответы, инструкции и прикрепленные документы. Таким образом, « спасибо », отправленное в конце длинного диалога, сопровождается тысячами токенов, то есть единиц текста, которые обрабатывает модель. В рассматриваемом сценарии, с повторной отправкой 5000 токенов, расчетное потребление энергии увеличивается в десять раз, а стоимость по тарифам API возрастает примерно со 100 миллионов до 3,6 миллиардов долларов в год.
Стоимость, которая растет быстрее диалога
Каждый новый запрос воспроизводит все предыдущие: на сотом сообщении модель снова обрабатывает девяносто девять других. Для проекта из 60 запросов, с сообщениями по 200 токенов, ответами по 300 токенов и 1500 токенами инструкций и файлов, модель должна обработать в общей сложности почти миллион токенов.
Провайдеры располагают механизмом кэширования, который позволяет с меньшими затратами повторно прочитать уже обработанную историю. В Anthropic чтение из кэша тарифицируется в 10–40 раз дешевле, чем входной токен, в зависимости от модели: в 20 раз для Sonnet 5.5 и Opus 5.5, в 40 раз для Fable 5.1, в 10 раз для Haiku 5.5. Таким образом, кэш снижает счет, но не решает проблему длины.
Длиннее и менее надежно
Удлиняющийся диалог также хуже справляется с задачами. Еще в 2023 году исследователи из Стэнфорда под руководством Нельсона Лю показали, что модели плохо используют информацию, помещенную в середине длинного контекста. В июле 2025 года компания Chroma протестировала 18 моделей, включая o3, Claude 4 и Gemini 2.5, на простых контролируемых задачах: их надежность снижается по мере удлинения входных данных. Режим рассуждения улучшает показатели, но не стирает разрыв между короткой и длинной версиями.
Тестовый стенд NoLiMa, представленный на конференции ICML 2025 Adobe Research и Мюнхенским университетом LMU, свидетельствует о том же. На подмножестве из 10 самых сложных вопросов модель рассуждения o1 от OpenAI дает правильный ответ в 92% случаев при контексте в 4000 токенов, в 78% — при 8000 токенов и в 31% — при 32 000 токенов. Препринт 2026 года под названием « Reasoning Shift » также указывает, что история диалога сокращает время рассуждения моделей и их способность проверять собственную работу.
Метод материнского диалога
Автор предлагает организовать работу до ее начала. « Материнский » диалог определяет цель, разбивает проект на задачи и не производит конечные результаты. Каждая задача поручается « дочернему » диалогу, который открывается брифингом с указанием цели, ожидаемого формата, источников и ограничений, а затем закрывается по завершении. Справочные документы остаются в папке и вызываются только тогда, когда они нужны дочернему диалогу. Каждый дочерний диалог возвращает материнскому лишь короткий отчет, проверенный пользователем, а модель выбирается при открытии каждого диалога в зависимости от задачи.
Согласно представленным расчетам, проект из 60 запросов превращается в шесть дочерних диалогов по десять запросов, управляемых одним материнским. По сравнению с единым диалогом, ведущимся на основной модели, метод позволяет сэкономить от 7 до 16% энергии и от 22 до 28% стоимости. Если материнский диалог составляет ответы в два раза длиннее, энергетическая выгода падает до 20–39%. Автор уточняет, что эти цифры остаются теоретическими, особенно в части предотвращенных переделок, и что метод EcoLogits, используемый для оценки моделей OpenAI, Google или Mistral, учитывает только произведенные токены. По его мнению, провайдеры должны публиковать данные об энергии, потребляемой на прочитанный, записанный и повторно прочитанный из кэша токен, поскольку без этих данных оценки основываются на приблизительных расчетах.
