قول « شكرًا » لمساعد الذكاء الاصطناعي يكلف قليلاً، لكن كل رسالة تعيد إرسال المحادثة بأكملها، وتزداد التكلفة الطاقة مع طولها. وفقًا لتحليل نُشر على شكل مقال رأي، فإن طول التبادلات، وليس المجاملة، هو ما يثقل الفاتورة، ويقترح المؤلف طريقة للحد منه.
نقطة الانطلاق هي حساب نُشر على لينكدإن، قدّر تكلفة « الشكر » الموجه إلى ChatGPT و Claude بناءً على 120 مليون مستخدم و8 عبارات شكر يوميًا، أي حوالي 350 مليار « شكر » سنويًا. باستخدام الآلة الحاسبة التي استخدمها المؤلف، فإن « شكرًا » منفردًا يُوجه إلى نموذج بحجم Claude Sonnet 5.5 يمثل حوالي 23 جيجاواط/ساعة سنويًا، مقابل أقل من 1 جيجاواط/ساعة للنموذج الصغير. لذا فإن اختيار النموذج أثقل بحوالي ثلاثين مرة من المجاملة.
العامل الحقيقي، وفقًا للمؤلف، يكمن في طريقة عمل هذه الأدوات. نموذج اللغة ليس لديه ذاكرة من رسالة إلى أخرى: التطبيق يعيد إليه، في كل جولة، كل أو جزء من التبادل، أي الرسائل والردود والتوجيهات والملفات المرفقة. وبالتالي، فإن « شكرًا » يُرسل في نهاية محادثة طويلة يرافقه آلاف tokens، أي وحدات النص التي يعالجها النموذج. في السيناريو المختار، مع إعادة 5000 رمز، تتضاعف الطاقة المقدرة بعشرة أضعاف، وتتغير القيمة بسعر API من حوالي 100 مليون إلى 3.6 مليار دولار سنويًا.
تكلفة تزداد أسرع من المحادثة
كل تبادل جديد يعيد تشغيل جميع السابقين: عند الرسالة المائة، يعالج النموذج التسع والتسعين الأخرى من جديد. لمشروع مكون من 60 تبادلاً، برسائل من 200 رمز، وردود من 300 رمز، و1500 رمز من توجيهات وملفات، يجب على النموذج معالجة ما يقرب من مليون رمز إجمالاً.
المزودون لديهم آلية cache، تتيح إعادة قراءة السجل المُعالج مسبقًا بتكلفة أقل. لدى Anthropic، تُقدر تكلفة القراءة من ذاكرة التخزين المؤقت بأقل من 10 إلى 40 مرة من تكلفة رمز الإدخال، حسب النموذج: 20 مرة لـ Sonnet 5.5 و Opus 5.5، و40 مرة لـ Fable 5.1، و10 مرات لـ Haiku 5.5. لذا فإن ذاكرة التخزين المؤقت تخفف الفاتورة، لكنها لا تحل مشكلة الطول.
أطول، وأقل موثوقية
المحادثة المطولة أيضًا تكون أقل استجابة. منذ عام 2023، أظهر باحثون من ستانفورد بقيادة نيلسون ليو أن النماذج تستغل المعلومات الموضوعة في منتصف سياق طويل بشكل سيء. في يوليو 2025، شركة Chroma اختبرت 18 نموذجًا، بما في ذلك o3 و Claude 4 و Gemini 2.5، على مهام بسيطة ومتحكم فيها: موثوقيتها تتناقص مع طول المدخلات. يحسن نمط التفكير النتائج، دون أن يمحو الفجوة بين النسخة القصيرة والطويلة.
مقياس NoLiMa، الذي قُدم في مؤتمر ICML 2025 من قبل Adobe Research وجامعة LMU في ميونخ، يسير في نفس الاتجاه. على مجموعة فرعية من 10 أسئلة من بين الأصعب، يجيب نموذج التفكير o1 من OpenAI بشكل صحيح في 92% من الحالات مع سياق 4000 رمز، و78% عند 8000 رمز، و31% عند 32000 رمز. منشور أولي لعام 2026، بعنوان « Reasoning Shift »، يشير أيضًا إلى أن سجل المحادثة يقلل من مدة تفكير النماذج وقدرتها على التحقق من عملها الخاص.
طريقة المحادثة الأم
يقترح المؤلف تنظيم العمل قبل البدء. تحدد محادثة « أم » الهدف، وتقسم المشروع إلى مهام، ولا تنتج المخرجات النهائية. تُوكل كل مهمة إلى محادثة « بنت »، تُفتح باختصار يحدد الهدف، والشكل المتوقع، والمصادر، والحدود، ثم تُغلق في النهاية. تبقى وثائق المرجعية في مجلد ولا يتم استدعاؤها إلا عندما تحتاجها إحدى البنات. لا ترفع كل بنت إلى الأم سوى تقرير قصير، يراجعه المستخدم، ويتم اختيار النموذج عند فتح كل محادثة، حسب المهمة.
وفقًا للحسابات المقدمة، يصبح مشروع الـ 60 تبادلاً ست بنات لكل منها عشرة تبادلات، تُدار بواسطة أم واحدة. مقارنة بمحادثة واحدة تُجرى على النموذج الرئيسي، ستكون الطريقة أكثر توفيرًا للطاقة بنسبة 7 إلى 16% وأرخص بنسبة 22 إلى 28%. إذا كتبت الأم ردودًا أطول بمرتين، ينخفض التوفير في الطاقة إلى 20-39%. يوضح المؤلف أن هذه الأرقام تبقى نظرية، خاصة معدل المراجعات المتجنبة، وأن طريقة EcoLogits، المستخدمة لتقدير نماذج OpenAI أو Google أو Mistral، تحسب فقط الرموز المُنتجة. وفقًا له، يجب على المزودين نشر الطاقة المستهلكة لكل رمز مقروء، ومكتوب، ومُعاد قراءته من ذاكرة التخزين المؤقت، لأنه بدون هذه البيانات، تعتمد التقديرات على تقريبات.
