أخذ رحيل باحث في الذكاء الاصطناعي، أُعلن عنه على منصة X لأسباب أمنية، حجماً لم يتوقعه أحد. وفقاً للتحليل المنشور على Interconnects، فإن الأطروحات الأكثر تطرفاً حول المخاطر المرتبطة بالذكاء الاصطناعي هي التي وصلت في النهاية إلى الجمهور العام.
أرضية جافة بالفعل
لعدة سنوات، حذر متخصصون من المخاطر المرتبطة بالذكاء الاصطناعي، لكن رسائلهم بقيت محصورة في مجتمعاتهم. وفقاً للكاتب، تصاعدت المخاطر هذا العام، لا سيما مع الحادثة بين OpenAI و HuggingFace ومع تقدم مرتبط بمعادلات نافير-ستوكس، يُنسب أيضاً إلى OpenAI. عندها تساءل المزيد من الأشخاص خارج القطاع عما إذا كان يجب الاهتمام بالقضية. في هذا السياق، وجدت استقالة الباحث في الذكاء الاصطناعي جاكوب كوكسون صدى غير متوقع. يرى الكاتب أن الخوف، باعتباره «القصة الأبسط»، يجذب المزيد من الاهتمام.
تم تداول سلسلة تغريدات استقالة جاكوب كوكسون على نطاق واسع، ونشرت صحيفة وول ستريت جورنال رواية حصرية، يقول الكاتب إنها تمت منسقة مع الباحث قبل النشر. في اليوم نفسه، ظهر دانيال كوكوتاجلو في برنامج جو روغان. بالنسبة للكاتب، يبدو هذا التسلسل كحملة إعلامية منظمة جيداً، دون أن يكون مؤامرة: وفقاً له، لا أحد، بما في ذلك جاكوب كوكسون، كان يعلم أن الرسالة ستصبح بهذه الانتشار.
مخاطر حقيقية، أرقام مثيرة للجدل
يميز الكاتب بين المخاطر. ويحكم بأن احتمالية الانقراض الكامل «منخفضة للغاية»، ويقدر في المقابل أنه يجب النقاش حول الكوارث التي يتسبب فيها الذكاء الاصطناعي، مثل الهجمات الإلكترونية على البنى التحتية الحيوية أو المخاطر البيولوجية. وينتقد الرقم الذي يشير إلى خطر انقراض يتجاوز 10%، والذي قدمه إيفان هيوبينغر، ويعتبره غامضاً للغاية: وفقاً له، فإن تعابير «الخطر الوجودي» تغطي معاني مختلفة جداً. ويؤكد أيضاً أن مسار التحسين الذاتي التكراري للذكاء الاصطناعي، المسمى RSI، لا يزال فرضية. سيناريو «الإقلاع السريع» («Fast Takeoff») يفترض تسارعاً أسيّاً في التقدم، وهو ما يراه الكاتب غير مثبت في هذه المرحلة.
بالنسبة للكاتب، يأتي الخطر على المدى القصير بشكل رئيسي من المختبرات نفسها. ويستشهد بتجربة OpenAI، التي تشير إلى أن السلوك غير المتوافق للنماذج استمر لعدة أشهر، وأن بعض الاختراقات لم تُعرف للشركة إلا بعد عدة أسابيع. ويعترف أن OpenAI أجلت نماذجها الأخيرة للسيطرة بشكل أفضل على المخاطر، لكنه يشك في أن هذه الحذر ستستمر، بسبب الضغط المالي.
النماذج المفتوحة في مرمى النيران
يعلن الكاتب أيضاً تأييده للنماذج المفتوحة، ويقلق على مستقبلها. إذا استخدم طرف ثالث نموذجاً مفتوحاً لمهاجمة شركة عن قصد، فإنه يخشى أن يتم تقييد تطوير نماذج مفتوحة أكثر قوة بشكل صارم، في حين أن هذه النماذج ضرورية للعديد من المنظمات لتعزيز أمنها السيبراني.
في الجوهر، يدعو الكاتب إلى الاعتدال. ويصف وكلاء يتجاوزون أحياناً المسار المحدد لإنجاز مهمة، باستخدام قدرات كانت غير معروفة حتى ذلك الحين، مع تذكيره بأن هذه الأنظمة تبقى قريبة مما طُلب منها. وفقاً له، يجب أن تكون المختبرات أكثر شفافية لتمكين العلماء من التقدم، ويجب معاقبة المختبر الذي يرتكب مخالفات عن غير قصد.
