يجب سحب وكلاء الذكاء الاصطناعي المفتوحين مع إمكانية الوصول إلى الإنترنت من السوق الآن

وكيل الذكاء الاصطناعي هو نظام قادر على تنفيذ سلسلة من الإجراءات بشكل مستقل، دون إشراف بشري في كل خطوة. في مدونته، يؤكد الكاتب منذ فترة طويلة أن شركة OpenAI تتعامل مع هذه المشكلة بشكل غير كافٍ. في رأيه، الحوادث التي وقعت في Anthropic تظهر أن « الجيل الحالي من الوكلاء الاصطناعية ببساطة لا يمكن الوثوق به ». وهو يعتقد أنه يجب سحبهم من السوق حتى يتم تصحيحهم، « مثل سيارة ذات فرامل معيبة ».

يعتمد الكاتب أيضًا على مقابلة أجراها ديفيد روبنسون مع الصحفي عزرا كلاين. روبنسون، وهو موظف سابق في قطاع الذكاء الاصطناعي غادره مؤخرًا، صرح فيها: « لا أعتقد أننا، ولا أقراننا، ولا أي شخص في القطاع حقًا، نتحلى بالحذر الكافي. » ويضيف أن « OpenAI وأقرانها تنتج الآن تقنية أكثر قدرة وأكثر خطورة مما كان يتم تطويره قبل ستة أشهر فقط ».

يصف روبنسون نفسه بأنه كاتب أكثر منه عالمًا. ويصور بيئة عمل يعتقد فيها أن « نحن نعمل، وأعتقد أن القطاع بأكمله يعمل، لا يزال كشركة ناشئة، أكثر مما هو معقول ». ويحذر من أنظمة خطيرة قد تشكل مخاطر، مثل فقدان السيطرة، وتتسبب في ضرر « أكبر بكثير من مفاعل نووي واحد يذوب ». ويحكم أن الضوابط الداخلية، والأمان، والأنظمة الاحتياطية هي « بعيدة عما يتوقعه العالم من محطة للطاقة النووية ».

هذه المخاوف ليست جديدة تمامًا. يذكر روبنسون أن OpenAI أبلغت علنًا عن مشكلات أمان، كما فعل آخرون، وأن Anthropic أبلغت أيضًا عن حالة تم فيها تكوين ضوابطها الوقائية عن طريق الخطأ. وهو يعتقد أن الجمهور لديه بالفعل علامات على أن « الأمور ليست كما ينبغي أن تكون »، بينما يرى أن المراقبين الخارجيين يمكنهم تخيل نظام أمان أقوى مما هو موجود بالفعل.

رد غير كافٍ في نظر الكاتب

ينتقد كاتب المدونة أيضًا رد فعل إدارة ترامب. ويصف طلب المزيد من الشفافية الموجه للشركات بأنه « ضعيف »، ويقارنه بطلب الإبلاغ من المجرمين شهريًا عن الجرائم التي ارتكبوها. في رأيه، كل يوم دون إجراءات أكثر حزمًا هو « خطأ يدعو إلى مشاكل أكثر خطورة ». ويعتقد أن « الوقت قد فات منذ فترة » لفرض سحب مؤقت لهذه التكنولوجيا التي يُنظر إليها على أنها خطيرة، ويخلص إلى أنه إذا وقع حادث خطير، فإن البيت الأبيض، وليس فقط شركات التكنولوجيا، سيتحمل المسؤولية.