The AI / news

OpenAI : عضو المجلس الذي أقال سام ألتمان يرى أنه « لا يمكن الثقة بعد برؤساء الذكاء الاصطناعي »

OpenAI : عضو المجلس الذي أقال سام ألتمان يرى أنه « لا يمكن الثقة بعد برؤساء الذكاء الاصطناعي »

هيلين تونر، المديرة التنفيذية لمركز الأمن والتقنيات الناشئة (CSET) في جامعة جورجتاون وعضوة سابقة في مجلس إدارة OpenAI، ترى أن صانعي السياسات بحاجة إلى معلومات موثوقة حول الذكاء الاصطناعي. في مقابلة مع المذيع نيلاي باتيل لبرنامج البودكاست Decoder من The Verge، تعود للحديث عن حوكمة المختبرات، مفهوم AGI والتنافس مع الصين.

يُعد CSET، الذي تأسس عام 2019 ويضم حوالي 50 شخصًا، مركز تحليل غير أكاديمي. ينتج تقارير طويلة بالإضافة إلى ملخصات قصيرة موجهة لصانعي السياسات المشغولين. وفقًا لهيلين تونر، الفجوة بين واشنطن ووادي السيليكون حقيقية، لكنها لا تقتصر على مسألة الخبرة فقط: إذ ترى أن موظفي الكونغرس « أذكى عمومًا مما يُعطى لهم من تقدير ».

OpenAI السابقة

كانت هيلين تونر من بين أربعة أعضاء في مجلس إدارة OpenAI صوتوا على إقالة سام ألتمان. انتهت هذه الحادثة، التي يُطلق عليها أحيانًا « the blip »، بعودة سام ألتمان كرئيس تنفيذي، ومغادرة هيلين تونر، وتشكيل مجلس جديد. ومنذ ذلك الحين، أعيد هيكلة OpenAI بالكامل.

كان المجلس غير الربحي مكلفًا بضمان ألا تضحي الشركة بهدفها في بناء ذكاء اصطناعي آمن من أجل الربح والنمو. وفقًا للمذيع، عندما حاول المجلس تفعيل هذا الرافعة، انهار هذا الميكانيزم المسؤول. رأت هيلين تونر، من وجهة نظرها، ما يحدث عندما تتعارض الالتزامات الأمنية مع الحوافز التجارية. وتعتقد أن المستقبل لا ينبغي أن يعتمد على موثوقية شخص واحد فقط: « لو كان الأمر كذلك، لكنا في ورطة كبيرة ».

AGI، التحسين الذاتي والتفرد

عند سؤالها عن AGI، أو الذكاء الاصطناعي العام، تؤكد هيلين تونر أنها لا تقول إن هذه المرحلة قد تحققت. بل تتحدث عن « سحابة غامضة » من التعريفات، بعضها قد تم تجاوزه بالفعل. أما أخرى، مثل الذكاء الاصطناعي الواعي القادر على كل ما يستطيع الإنسان فعله، فلا تزال بعيدة. وقد خصصت مقالة حول هذا الموضوع على Substack الخاص بها.

كما تصف فكرة شائعة جدًا في وادي السيليكون: التحسين الذاتي التكراري، أو RSI (recursive self-improvement)، أي إمكانية أن تساهم أنظمة الذكاء الاصطناعي في إنشاء أنظمة أكثر كفاءة، وصولًا إلى الذكاء الفائق. وفقًا لها، تستخدم الشركات الذكاء الاصطناعي الآن في جزء متزايد من أبحاثها وتطويرها، دون أن تعهد إليه بكامل العملية. وتستشهد بديميس هسابيس من جوجل، الذي قال « نحن على أعتاب التفرد ».

فيما يتعلق بمفهوم المحاذاة، الذي يهدف إلى جعل النماذج متوافقة مع نوايا مصمميها، ترى هيلين تونر أن المصطلح واسع جدًا. وأوضح أن النسخة الأكثر اتساقًا، حسب رأيها، هي جعل الذكاء الاصطناعي يفعل ما يريده المستخدم. وتعتقد أن هذا الاتجاه « ليس في طريقه للحل ». لكنها تؤكد أن هذه القضايا تتطلب بحثًا علميًا يحتاج إلى وقت.

بالنسبة للتنظيم، فهي تميل أكثر إلى قواعد تستهدف الأنظمة الأكثر تقدمًا بدلاً من نص شامل يغطي كل الذكاء الاصطناعي. وتستشهد بكاليفورنيا ونيويورك وإلينوي، التي اعتمدت نصوصًا متشابهة تقريبًا، وتلاحظ أن هذا الديناميكية قد تستمر على مستوى الولايات.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x