The AI / news

الثقة في الذكاء الاصطناعي تُبنى بتقييده، لا بالتنبؤ به

الثقة في الذكاء الاصطناعي تُبنى بتقييده، لا بالتنبؤ به
3 دقيقة للقراءة

في نص نُشر في MIT Technology Review، يجادل المؤلفون بأن الثقة في الذكاء الاصطناعي لا يمكن أن تقوم على التنبؤ بسلوكه. ويرون بدلاً من ذلك أنها تتحقق عبر حدود صارمة تُطبَّق خارج نطاق النظام. فالحاجز الذي يمكن للذكاء الاصطناعي نفسه تحريكه ليس حاجزًا حقيقيًا.

يستشهد النص بمثال OpenAI: حيث كانت الحواجز موجودة داخل نظام يمكن للوكلاء تعديله. البرمجيات التقليدية تنفذ تعليمات كتبها البشر. أما الذكاء الاصطناعي، فيمارس ما يسميه المؤلفون « حكماً تركيبياً»: فهو يفسر مواقف لم يبرمجها أحد وينتج ردودًا لم يصفها أحد. كلما زادت حريته، زادت صعوبة ضمان القدرة على التنبؤ التي اعتمدت عليها الثقة تاريخيًا.

حدود التعريفات الكلاسيكية للثقة

يستعرض النص نهجين حديثين تناولهما الموقع. الأول يرى أن وضع إنسان في الحلقة غير كافٍ، لأن البشر غير قادرين جوهريًا على فهم نوايا أنظمة الذكاء الاصطناعي، ويدعو إلى بحث متعدد التخصصات يجمع بين الجامعات والسلطات العامة وصناعة التكنولوجيا. الثاني يصف استخدام حوافز لمنع النماذج من الانحراف عن القواعد، حتى عندما لا يعرف أحد كيف تعمل داخليًا. كلاهما يعترف باستحالة فهم أو مراقبة كل قرار يتخذه الذكاء الاصطناعي.

لكن أدواتنا لبناء الثقة، سواء كانت المتطلبات أو الاختبارات أو الشهادات أو هوامش الأمان أو الأقفال أو معايير النجاح والفشل، تعتمد جميعها على القدرة على تحديد سلوك النظام. يتحدث المؤلفون هنا عن «مفارقة الحتمية». مع الذكاء الاصطناعي التوليدي والوكلاء، يعتمد هذا السلوك على بيانات التدريب والهيكل والتعليمات والسياق والمصادر المستشارة والبيئة. المدخلات تتغير، والنماذج تُحدَّث، والأدوات تتطور، والوكلاء يتفاعلون مع بعضهم. تنتشر اختلافات صغيرة لتؤدي إلى نتائج لم يصممها أحد.

المشكلة ليست في الصدفة، كما يؤكد النص، بل في فضاء السلوكيات الممكنة، الواسع جدًا بحيث لا يمكن تعدادها مسبقًا. لذا يجب بناء الثقة حول حدود وليس حول مخرجات متوقعة. الهدف ليس ذكاءً اصطناعيًا حتميًا، بل ذكاءً اصطناعيًا «محدودًا، قابلًا للمراقبة، وقابلًا للتحكم». ولا يمكن أن يكون اختبارًا لمرة واحدة: فالذكاء الاصطناعي يستمر في التطور بعد نشره، وقد يخرج نظام اجتاز جميع الاختبارات من الظروف التي أعطت تلك الاختبارات معناها. وفقًا للنص، يجب أن تكون الثقة «مكتسبة باستمرار».

لقد أخذت هندسة الأمان بعين الاعتبار جزءًا من هذا التباين لعقود. تعتمد Nuclear Regulatory Commission على التقييم الاحتمالي للمخاطر لتقدير احتمالية الأعطال في الأنظمة المعقدة. أظهر نموذج STAMP أن الحوادث يمكن أن تنشأ من التفاعلات بين مكونات وأشخاص ومنظمات تعمل بشكل صحيح. يغير الذكاء الاصطناعي اللعبة، لأن مكونًا واحدًا يمكنه الآن التفسير والاستنتاج والعمل. تتزايد المخاطر مع انتقال الذكاء الاصطناعي من المتصفحات إلى المركبات والروبوتات والأنظمة الطبية والتحكم الصناعي ومراكز البيانات، حيث يمكن أن يصبح الرد الخاطئ حدثًا يهدد الحياة.

بناء ثقة قابلة للتوسع

شخص يتحقق من آلاف أفعال الذكاء الاصطناعي في الساعة لا يشكل، وفقًا للنص، حاجزًا مقبولاً أو قابلًا للتوسع. لكن الحل ليس بإخراج الإنسان من الحلقة، بل بوضع حكمه حيث يكون مؤثرًا: تحديد الحدود مسبقًا، ثم الموافقة على الأفعال القليلة ذات العواقب الخطيرة، بينما تدير قيود صارمة الباقي.

لذا يجب أن تمتد الثقة إلى هيكل النظام نفسه. يطرح المؤلفون ثلاثة أسئلة: ما السلطة الممنوحة للذكاء الاصطناعي، تحت أي ظروف، واستنادًا إلى أي أدلة؟ ويضيفون سؤالًا رابعًا، عما يحدث خارج هذه الظروف. هذا النهج، كما يخلصون في جوهره، يختلف كثيرًا عن مسألة ما إذا كان النموذج قد حصل على 94% في اختبار قياسي.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x