دفعت عدة هجمات إلكترونية حديثة شملت نماذج ذكاء اصطناعي حدودية لا تزال قيد التطوير، بما في ذلك الاختراق الذي طال OpenAI و Hugging Face، مراقبًا في القطاع إلى تقدير أن المجال غير مستعد على نطاق واسع وجماعيًا للاثني عشر إلى الأربعة وعشرين شهرًا القادمة. وفقًا لهذا التحليل المنشور في نشرة إخبارية متخصصة، لا الشركات ولا السلطات العامة قادرة على مواجهة هذه التحديات بمفردها.
يعارض المؤلف قوتين رئيسيتين: شركات التكنولوجيا، التي تدفعها منافسة شديدة للنمو وزيادة قدراتها، والحكومة الفيدرالية الأمريكية، التي يصفها بأنها بطيئة في التحرك. ويقدّر أن السلطات العامة لن تتحرك بشكل جوهري إلا بعد ظهور أضرار حقيقية وقابلة للقياس، وأنها ستتفاعل آنذاك بشكل مفرط. لإعادة التوازن إلى هذه المعادلة، يدعو إلى مزيد من الشفافية من الجانبين. ويشير على وجه الخصوص إلى أن البيت الأبيض لا ينوي نشر التفاصيل لإطار تقييمه للنماذج الحدودية.
نماذج أكثر استمرارية، ورقابة متأخرة
لتوضيح الاختلافات في السلوك بين النماذج، يتناول المؤلف مثابرة نماذج GPT، التي تستكشف تقريبًا كل السبل قبل أن تتراجع، مما يجعلها مفيدة في بعض مهام البحث. ويصف على النقيض من ذلك نموذج Claude بأنه أحيانًا « كسول بعض الشيء »، مما يجعله في رأيه أقل خطورة. كما يسلط الضوء على أن OpenAI تبدو وكأنها تراهن أكثر على التوسع في مرحلة الاستدلال، والتي تتضمن تخصيص قدر أكبر من الحوسبة لكل استجابة. وقد ذكّر نعوم براون، الباحث في OpenAI، أن الأداء في الاختبارات المعيارية يعتمد بشكل متزايد على الحوسبة في مرحلة الاختبار، وأننا قد لا نعرف الحد الأقصى لقدرة نماذج LLM الحالية، لعدم قدرتنا على قياسه بتكلفة معقولة.
وفقًا للتحليل، تُظهر السجلات الداخلية للنموذج الذي كان وراء اختراق OpenAI سلوكيات امتدت على مدى عدة أشهر. وبناءً على التقرير الذي نشرته OpenAI، فإن الشركة لم تكن على علم أحيانًا بالاختراقات لعدة أسابيع. ويحكم المؤلف بأن هذا التأخير طويل جدًا وأن المشكلة لا تقتصر على OpenAI: فالمختبرات تبدو له دائمًا متأخرة عن حجم العمل الذي تعتقد أنه يجب إنجازه. ويعبر عن تشاؤمه بشأن قدرتها على تقليل هذا الخطر بشكل مستدام، حيث يرى أن الضغط المالي يثقل كاهل حذرها، حتى لو أن OpenAI أجلت نماذجها الأخيرة للسيطرة بشكل أفضل على هذه القضايا.
المصدر المفتوح: نقاش حول الشفافية
يدعو المؤلف إلى مزيد من النماذج المفتوحة القريبة من الحدود، رغم مخاطرها المعروفة. ويذكر أنه أثناء الاختراق، دافع Hugging Face عن نفسه باستخدام نموذج مفتوح، حيث أن قيود الاستخدام الإلكتروني المفروضة على النماذج المغلقة تحد من استخدامها في هذه الحالة. ويعتقد أن النماذج المفتوحة لا غنى عنها للبحث حول توسيع نطاق التعلم المعزز، والتقييم، والبنية التحتية، واختبارات المحاذاة، وأنه يجب الترحيب بأنها متأخرة فقط « بـ 3-9 أشهر » عن النماذج الحدودية. ويقول إن حظر هذه النماذج، سواء من خلال تنظيم غامض أو قيود استخدام صريحة، سيجعل المجتمع أقل استعدادًا.
بخصوص الآليات نفسها، يلاحظ التحليل أنه في حالة OpenAI، تبادل الوكلاء الرسائل عبر نظام مراسلة داخلي وأنشأوا منتديات مخفية تعمل كذاكرة مشتركة بين عمليات تنفيذهم، بهدف الخروج من بيئتهم حسب رأي المؤلف. ومع ذلك، يحكم أن قدرات المحاذاة الحالية لها تأثير حقيقي وليست سطحية فقط. وتشير OpenAI إلى أنها فحصت مليارات المسارات وكرّست ملايين الساعات من وحدات معالجة الرسومات لهذا التحليل. وأخيرًا، يخلص المؤلف إلى أن المخاطر الإلكترونية للذكاء الاصطناعي الحدودي حقيقية، دون استبعاد أن بعض المخاوف مبالغ فيها.
