تعمل معامل الذكاء الاصطناعي الرائدة، وعلى رأسها OpenAI وAnthropic، على تشغيل آلاف الوكلاء الآليين بشكل متزامن لتحسين عملياتها وإنتاجها. في تحليل نُشر في النشرة الإخبارية Interconnects، يتساءل المؤلف عن كيفية تأثير هذا الإيقاع على توقعات الموظفين وعن فكرة أن مخاطر الذكاء الاصطناعي قد تؤدي إلى انقراض البشرية، وهو ما يصفه بأنه «فكرة شديدة التدين».
يرى أن الثقافة التنافسية الشديدة في مشهد سان فرانسيسكو تضخم أي قلق مرتبط بالذكاء الاصطناعي. ويذكر النقاشات العديدة حول أمان الذكاء الاصطناعي، وجدوى الذكاء الاصطناعي مفتوح المصدر، التي شغلت عامي 2023 و2024. المخاطر الرئيسية التي أُعلن عنها آنذاك لم تتحقق في الجداول الزمنية المتوقعة. ويستشهد أيضًا بحوادث مثل «OpenAI-HuggingFace» ويقدر أن تصاعد القلق، خاصة منذ أن اكتسب الوكلاء الآليون كفاءة أكبر في أوائل 2026، قد يتزايد أكثر.
مجتمع موجه نحو مستقبل قريب
يعيد المؤلف تلخيص ريتشارد نغو، الذي يلاحظ أن جزءًا كبيرًا من مجتمع أمان الذكاء الاصطناعي يتجه نحو سيناريوهات انفجار الذكاء في السنوات القليلة المقبلة. وفقًا لنغو، ستكون هذه التوقعات «صحيحة في اتجاهها، لكن خاطئة في وقائعها». ويكتب على وجه الخصوص: «لن نحصل على ذكاء فائق في السنوات الثماني المقبلة، لكن الأمور ستتقدم بسرعة كبيرة بحيث ستبدو كما لو أن أولئك الذين دافعوا عن جداول زمنية قصيرة كانوا محقين».
يقرب المؤلف هذا الموقف من فرضيته الخاصة، التي يسميها «lossy self-improvement»، أي التحسين الذاتي «مع خسائر»، في مقابل التحسين الذاتي التكراري للذكاء الاصطناعي (RSI)، حيث يساهم الذكاء الاصطناعي في تحسين تصميمه الخاص. يرى أن البحث القابل للأتمتة لا يزال ضيقًا جدًا لتسريع التقدم بقوة، وأن تناقص العوائد المرتبط بإضافة وكلاء بالتوازي حقيقي، وأن قيود الموارد والعوامل السياسية تثقل كاهل العملية.
جداول زمنية مختلفة جدًا بين الخبراء
يعتمد المؤلف على بودكاستات Dwarkesh مع نوام براون، ثم مع جون شولمان، وبيرين ميلدج، وتشارلي أونيل. في هذه المناقشات، يقدم المشاركون جداولًا زمنية لعدة قدرات. فيما يتعلق بـ «عامل عن بعد جاهز للعمل» قادر على أداء عمل مكتبي عام لمدة شهر، يتحدث جون شولمان عن حوالي عام لإصدار «صحيح»، ويتحدث تشارلي أونيل عن حوالي عام مع وصول برمجي إلى الأدوات، وعامين إذا كان يجب العمل من خلال متصفح، بينما يتحدث بيرين ميلدج عن حوالي ثلاث سنوات لتحقيق عمومية كاملة.
فيما يتعلق بزيادة إنتاجية باحثي الذكاء الاصطناعي بعشرة أضعاف، يقدم جون شولمان تقديرًا بحوالي عامين، ويقول تشارلي أونيل ما بين خمس إلى عشر سنوات، ويحكم بيرين ميلدج أن تقدير العامين معقول دون أن يقدم تقديرًا آخر. بالنسبة لذكاء اصطناعي يتفوق على أفضل الخبراء البشريين في جميع الأعمال الحاسوبية، بما في ذلك المشاريع متعددة السنوات («ASI»)، يتحدث جون شولمان عن ثلاث إلى أربع سنوات، ويتحدث بيرين ميلدج عن حوالي خمس سنوات للمجالات التي تستهدفها المعامل، ويتحدث تشارلي أونيل عن خمس إلى عشر سنوات.
مكاسب في الكفاءة بشكل رئيسي
يؤكد المؤلف أن التقدم لا يتجاوز عتبات واضحة، لأن ذكاء النماذج لا يزال متفاوتًا حسب المهام. يرى أن الحلقة التجريبية قد تصبح أسرع بعشر مرات، لكن ليس صياغة الفرضيات. وفقًا له، يجب أن يساعد التحسين الذاتي بشكل أساسي في جعل النماذج أقل تكلفة وتحسين أنظمة الوكلاء المتعددة، لأن مقاييس خدمة نماذج اللغة الكبيرة قابلة للقياس.
يبقى مع ذلك حذرًا بشأن التكاليف، لأن قوانين الكمية تُظهر الحاجة إلى موارد أسية للحصول على مكاسب خطية في الذكاء. ويستشهد بقول جون شولمان عن التدريب اللاحق، الذي يرى أن أتمتته مهمة صعبة: «من السهل جدًا إفساد التدريب اللاحق بطريقة لا تظهر في المقاييس المعيارية». ويذكر أخيرًا مقطعًا من Claude Fable 5.1 & Mythos 5.1 System Card: «نعتقد أن الاستخدام الداخلي لنماذج الذكاء الاصطناعي الحديثة كان عاملًا رئيسيًا في الحفاظ على معدل التقدم الحالي، لكننا لا نرى بعد علامات واضحة على تسارع مذهل يتجاوز هذا المعدل». حتى الآن، يعتبر المؤلف أن فرضيته الخاصة تبقى مرجعه.
