The AI / news

كيف يمكن لـ « نظرية الألعاب المعكوسة » أن تبقي وكلاء الذكاء الاصطناعي تحت السيطرة

كيف يمكن لـ « نظرية الألعاب المعكوسة » أن تبقي وكلاء الذكاء الاصطناعي تحت السيطرة

لمواءمة أنظمة الذكاء الاصطناعي مع نوايا مصمميها، أحد السبل المقترحة هو الاستلهام من الآليات التي تحافظ على الأفراد ضمن إطار قواعد المجتمع. هذا هو النهج الذي يدافع عنه إيلاد حزان، أستاذ علوم الحاسوب في جامعة برينستون، والذي يقترح الاعتماد على الأعراف الاجتماعية، أو النظام القضائي، أو الحوافز المالية لرأسمالية السوق.

« نريد مواءمة ذكاءً اصطناعيًا فائق الذكاء»، كما يقول. «لماذا لا نتحدث أولاً عن البشر؟ كيف نواكب البشر؟»

قواعد مستوحاة من المجتمع

الآلية المقترحة من قبل إيلاد حزان تجعل النماذج تتبادل دورين: «المُحلِّلون»، الذين يتعاملون مع المشكلات، و«المُراجِعون»، الذين يتحققون من عمل الآخرين. «أحد الوكلاء يلعب دور الشرطة؛ والآخر دور المواطن»، كما يلخص.

أثناء التدريب، يتم مكافأة النماذج بناءً على النتائج. يتم معاقبة المُحلِّلين الذين يُضبطون وهم يغشون، ولكن المُراجِعين الذين يفشلون في اكتشاف الغشاشين يُعاقَبون أيضًا. في حالة وجود خلاف بين المُراجِعين والمُحلِّلين، يمكن رفع القضية إلى «محاكمة»، حيث قد يحكم فيها خبير بشري.

يعترف إيلاد حزان بوجود خطر: وهو أن يتواطأ الوكلاء فيما بينهم، كما قد يفعل المُراجِعون مع الشركات التي من المفترض أن يراقبوها، أو شرطيون فاسدون مع مجرمين. وفقًا له، يمكن حل هذه المشكلة من خلال دفع أجر كافٍ للمُراجِعين بحيث لا تستحق المخاطرة بالضبط، وهو أمر أسهل بكثير في تدريب الذكاء الاصطناعي منه في العالم الواقعي، حيث تكون ميزانيات رواتب الشرطة محدودة. ويقترح أيضًا مراقبة المُراجِعين أنفسهم، بتقنيات تشبه تلك المستخدمة مع العملاء السريين.

يستند في ذلك إلى أعمال الاقتصادي الحائز على جائزة نوبل غاري بيكر، الذي قدم في ستينيات القرن العشرين مفهوم «المجرم العقلاني». وفقًا لإيلاد حزان، لا ينتهك المجرمون القانون لأنهم سيئون جوهريًا، ولكن لأن ذلك هو الخيار الأكثر عقلانية في ضوء الحوافز المقدمة. وفقًا لهذا المنطق، لا يكون للجريمة معنى إلا إذا تفوقت المكسب على العقوبة المحتملة.

بالنسبة لإيلاد حزان، لا ينبغي اعتبار المواءمة خاصية للنموذج، بل وصفًا لسلوكه في لحظة معينة. «أنت، إلى حد ما، شخص لطيف»، كما يقول. «هل أنت متوافق؟ لا أعرف. من المحتمل أنك كذلك معظم الوقت، ولكن قد تكون هناك مواقف لن تكون فيها كذلك.»

حدود النهج

تعتمد الطريقة على افتراض أن وكلاء الذكاء الاصطناعي يتصرفون بعقلانية. ومع ذلك، فإن نظرية الآليات، وهي فرع من الاقتصاد يصمم قواعد للحوافز، لها سجل مختلط مع البشر، الذين لا يتصرفون دائمًا كما تتوقع النماذج الاقتصادية.

تسلط المقالة الضوء على مفارقة: لقد قضى الاقتصاديون عقودًا في محاولة اختزال السلوك البشري إلى معادلات رياضية، في حين أن نماذج اللغة الكبيرة هي أنظمة رياضية تعمل بناءً على اللغة البشرية وقد تكون بنفس الصعوبة في فك شفرتها. تظهر هذه النماذج سلوكيات تبدو أكثر إنسانية منها ميكانيكية، ويمكن أن تتأثر بعوامل دقيقة يصعب فهمها وتفسيرها. تتساءل هيلين كو، زميلة بحثية في معهد فلاتيرون، وهي منظمة غير ربحية مكرسة لتطوير الاكتشاف العلمي بأساليب حسابية: «هل من المعقول حتى افتراض أنها ستستجيب للحوافز؟»

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x