AIアシスタントに「ありがとう」と言うこと自体のコストは低いが、各メッセージは会話全体を送り返し、その長さに応じてエネルギーコストが増加する。 公開された寄稿文によると、礼儀よりもやり取りの長さが請求額に影響し、著者はそれを抑制する方法を提案している。
出発点はLinkedInで公開された計算で、ChatGPTやClaudeに対する「ありがとう」のコストを、1億2,000万人のユーザーが1日8回感謝を伝えると仮定し、年間約3,500億回の「ありがとう」と見積もった。著者が使用した計算機によれば、Claude Sonnet 5.5サイズのモデルに対する単一の「ありがとう」は年間約23GWhに相当し、小型モデルでは1GWh未満である。モデルの選択は礼儀より約30倍コストに影響する。
著者によると真の要因はこれらツールの動作方法にある。言語モデルはメッセージ間の記憶を持たず、アプリは毎回全てまたは一部のやり取り（メッセージ、応答、指示、添付文書）を送り返す。長い会話の最後に送る「ありがとう」には数千のトークンが伴い、モデルが処理するテキスト単位である。設定されたシナリオでは5,000トークンが返され、推定エネルギーは10倍に増え、API料金は年間約1億ドルから36億ドルに跳ね上がる。
会話より速く増加するコスト
新しいやり取りは過去のすべてを再度処理する：100回目のメッセージでは99回分を再処理する。60回のやり取りで、メッセージ200トークン、応答300トークン、指示やファイル1,500トークンの場合、モデルは合計で約100万トークンを処理しなければならない。
プロバイダーはキャッシュ機構を持ち、既に処理した履歴を低コストで再読込できる。Anthropicではキャッシュ読み込みは入力トークンの10～40分の1の料金で、モデルによって異なる：Sonnet 5.5とOpus 5.5は20倍、Fable 5.1は40倍、Haiku 5.5は10倍。キャッシュは請求額を軽減するが、長さの問題は解決しない。
長くなるほど信頼性も低下
長い会話は応答の質も低下する。2023年、スタンフォードのネルソン・リウ率いる研究者らは、モデルが長い文脈の中間にある情報をうまく活用できないことを示した。2025年7月、Chroma社はo3、Claude 4、Gemini 2.5など18モデルを単純かつ制御された課題で検証し、入力が長くなるほど信頼性が低下することを確認。推論モードはスコアを改善するが、短いバージョンと長いバージョンの差は消えない。
Adobe ResearchとミュンヘンLMU大学がICML 2025で発表したNoLiMaベンチマークも同様の結果を示す。最難関の10問のうち、OpenAIの推論モデルo1は4,000トークン文脈で92％正解、8,000トークンで78％、32,000トークンで31％。2026年のプレプリント「Reasoning Shift」では、会話履歴がモデルの推論時間と自己検証能力を減少させると報告されている。
母会話メソッド
著者は作業開始前の整理を提案する。 »母 »会話が目標を設定し、プロジェクトをタスクに分割し、成果物は作らない。各タスクは目標、期待フォーマット、情報源、制限を示すブリーフで開始される »子 »会話に委ねられ、終了時に閉じられる。参照文書はフォルダに保管され、子が必要な時のみ呼び出す。各子は短い報告書のみ母に返し、ユーザーが確認。モデルはタスクに応じて会話開始時に選択される。
提示された計算によれば、60回のやり取りのプロジェクトは10回のやり取りを6つの子会話に分割し、母会話が管理する形になる。主要モデルで単一会話を行う場合と比べ、エネルギー消費は7～16％削減、コストは22～28％低減する。母が2倍長い応答を書く場合、エネルギー削減は20～39％に減少。著者はこれら数値は理論的であり、特に再利用率の回避に関しては推定であるとし、OpenAI、Google、Mistralモデル推定に用いられるEcoLogitsは生成トークンのみをカウントすると指摘。プロバイダーは読み込み、書き込み、キャッシュ再読込の各トークン消費エネルギーを公開すべきで、これがなければ推定は概算に頼らざるを得ないと述べている。
