تستخدم أنثروبيك الذكاء الاصطناعي لتسريع تطوير نماذجها الخاصة، وفقًا لتقرير جديد من منظمة أبحاث أمن الذكاء الاصطناعي METR. ويشير التقرير إلى أن نماذج الشركة تتقدم بسرعة تقارب ضعف ما كانت عليه قبل عام، دون أي علامة واضحة على التباطؤ. كما يثير التقرير سؤالًا: ما الذي يعرفه الجمهور حقًا عن هذا المعدل، والمخاطر المصاحبة له؟
التقرير هو نتاج تحقيق استمر أحد عشر أسبوعًا داخل الشركة، كجزء من تقييم أنشطتها البحثية والتطويرية في مجال الذكاء الاصطناعي. وفقًا لـ METR، تشير نتائج المقاييس المعيارية إلى أن أنثروبيك حققت «ما يقرب من عامين من التقدم التاريخي خلال العام الماضي». ويقول الباحثون إنهم «واثقون» من أن هذا التسريع لا يعود ببساطة إلى زيادة قوة الحوسبة المستخدمة في تدريب النماذج، وهو العامل الذي طالما اعتُبر المحرك الرئيسي للتقدم.
الذكاء الاصطناعي يُسرّع أبحاث أنثروبيك
وفقًا لـ METR، فإن غالبية التسريع الملحوظ في أكتوبر «يعود إلى الذكاء الاصطناعي»، ومن المتوقع أن تزداد مساهمته مع مرور الوقت. يستند هذا الاستنتاج إلى استطلاعات غير رسمية أُجريت على Slack ومقابلات مع موظفين، أشارت إلى مكاسب كبيرة في الإنتاجية. في المتوسط، يذكر الموظفون الذين يستخدمون النموذج الداخلي الأكثر تقدمًا في الشركة أنهم أكثر إنتاجية بحوالي 12 مرة مما كانوا عليه دون مساعدة الذكاء الاصطناعي، أي حوالي ضعف ما أشاروا إليه قبل بضعة أشهر مع Mythos 5.
حتى الآن، يأتي هذا التسريع في الغالب من ذكاء اصطناعي يساعد الباحثين البشر، وليس من ذكاء اصطناعي يعمل بمفرده. ومع ذلك، تحذر METR من أن «بعض العلامات تشير إلى أن المساهمات المستقلة بالكامل ستلعب قريبًا دورًا أكبر». ولم يلاحظ الباحثون أي علامة واضحة على تناقص العوائد أو أي اختناق قد يمنع تسريعًا أسرع.
كما أكملت ثلاثة نماذج جديدة من أنثروبيك تدريبها خلال الأشهر الستة الماضية دون أن تُنشر. وهي معروفة بأسماء الرموز Model 2 و Model 3 و Model 4، والتي اكتمل تدريبها في يوليو، وبين أغسطس وسبتمبر، وبين سبتمبر وأكتوبر على التوالي. تذكر METR أيضًا نموذجًا غير منشور يعود إلى عام 2022، يُسمى Unreleased 2022. ويوضح الباحثون أن «هذه هي أسماء الرموز التي تم إخبارنا بها؛ ونفهم أن لها أسماء داخلية مختلفة».
معلومات مُحذوفة
منحت أنثروبيك METR الوصول إلى معلومات غير علنية، بما في ذلك أبحاث سرية، وبيانات أداء النماذج، ومقابلات مع موظفين. ومع ذلك، يوضح التقرير أن الوصول لم يكن غير محدود. كان لأنثروبيك الحق في حذف أجزاء من النسخة النهائية، وتزعم METR أنها قدمت تقريرًا بحوالي 100 صفحة، تمت إزالة «غالبية الأدلة» التي اعتبرتها المنظمة الأكثر إفادة من النسخة العامة.
تبرر أنثروبيك هذه الحذوفات بخطر إفادة منافسيها. من جانبها، ترى METR أن «معظم المعلومات المحذوفة كانت ذات مستوى عالٍ جدًا»، دون أن تحكم على الطابع التجاري لهذه الخيارات. في رسالة طويلة نُشرت على X، اعترف المؤسس المشارك لأنثروبيك سام مكاندليش: «لقد حذفنا الكثير، وأنا أتقبل أن هذا يجعل التحقق من عمل METR أكثر صعوبة». وأكد أن الشركة اتخذت «القرار الصحيح»، وأعلن عن النشر القريب لتقريرها الخاص حول سرعة تقدم الذكاء الاصطناعي.
ضغط متزايد على الشفافية
أثار التقرير انتقادات حادة بين باحثي أمن الذكاء الاصطناعي. دانيال كوكوتاجلو، الباحث السابق في OpenAI الذي يرأس مشروع AI Futures Project، يتهم أنثروبيك بـ«المقامرة بتهور بحياتنا». بينما ترى بريانا روزن، مديرة أبحاث أمن النماذج المتقدمة في معهد سياسة واستراتيجية الذكاء الاصطناعي، أن «التقرير لم يكن شفافًا بما يكفي بشأن الأدلة». رفضت أنثروبيك الإجابة على أسئلة The Verge وأحالت إلى رسالة سام مكاندليش.
دعا النائب عن نيويورك أليكس بوريس الكونغرس إلى «حظر التحسين الذاتي التكراري، هذا العام إن أمكن». يشير التحسين الذاتي التكراري إلى أنظمة الذكاء الاصطناعي القادرة على تطوير أنظمة خلفية أكثر قوة دون تدخل بشري. يعتقد ماريوس هوبهاين، مؤسس والمدير التنفيذي لشركة Apollo Research، أن النتائج «تتوافق بشكل عام» مع ما كان يتوقعه المجال، «وربما أسرع قليلًا»، ويحذر: «استعدوا للجنون. إنه سريع جدًا».
