أعلنت شركة أنثروبيك، المطورة لكلود، في أحدث وثائقها المالية أن المختبر يقترب بشكل خطير من إنشاء « ذكاء اصطناعي قادر على بناء نفسه ذاتيًا ». تُعرف هذه المرحلة باسم التحسين الذاتي التكراري (RSI).
ببساطة، هذه هي المرحلة التي يصبح فيها الذكاء الاصطناعي كفؤًا لدرجة أنه يمكنه تدريب نفسه، وكتابة وتحديث شفرته البرمجية الخاصة، دون الحاجة إلى مساعدة بشرية كبيرة للتقدم. بالنسبة لمؤيديه، يفتح هذا المنظور الطريق أمام اكتشافات علمية ومكاسب إنتاجية هائلة. بينما يخشى معارضوه أنه بمجرد أن يصبح الذكاء الاصطناعي قادرًا على بناء نفسه، سيصبح قويًا للغاية، ويفقد البشر السيطرة، ويسبب الذكاء الاصطناعي أضرارًا كبيرة أثناء سعيه لتحقيق أهدافه.
عملية بدأت بالفعل
وفقًا لأنثروبيك، بدأ هذا التطور بالفعل على نطاق صغير. في مايو 2026، كان الذكاء الاصطناعي كلود التابع لها يكتب أكثر من 80٪ من الشفرة المستخدمة في أنظمة الشركة. لم يعد المهندسون يقومون بمعظم عملية الإدخال، وأصبحوا الآن يشرفون على عمل الذكاء الاصطناعي.
أصدرت أنثروبيك تحذيرًا جديدًا يفيد بأنه، بحلول نهاية عام 2026، قد تكتسب حتى نماذج الذكاء الاصطناعي الأكثر تواضعًا القدرة على الانتشار والتكاثر ذاتيًا عبر جميع الأجهزة المتصلة بالإنترنت. في أحدث تقرير مالي لها، تعترف الشركة بأن استخدام الذكاء الاصطناعي لإنشاء ذكاء اصطناعي أكثر قوة يمثل خطرًا كبيرًا على الأمن. المشكلة الرئيسية، حسب رأيها، تكمن في السرعة: إذا بدأ الذكاء الاصطناعي في تحسين نفسه، فستتقدم التكنولوجيا أسرع بكثير مما يستطيع البشر وضع قواعد أمنية.
تشير أنثروبيك إلى أنه لم يتجاوز أي من نماذجها الحالية هذا الخط، لكن نماذجها المستقبلية قد تصل قريبًا إلى هذا العتبة. تعترف الشركة بأنها استخدمت الذكاء الاصطناعي بالفعل لتطوير نماذج جديدة، ولم تدرك قوتها إلا بعد فوات الأوان. تؤكد أنها تتبع « سياسة تطوير مسؤولة » وتتعهد بعدم ترك كلود يصمم نماذج ذكاء اصطناعي مستقبلية بمبادرة منه. وتؤكد على ضرورة وجود إشراف بشري ذي معنى، والذي سيبقى ضروريًا في المستقبل المنظور.
تحذيرات مثيرة للجدل
في مايو 2026، أعرب يوشوا بينجيو، أحد رواد الذكاء الاصطناعي، عن مخاوف عميقة إزاء السباق نحو الذكاء الفائق الذي تقوده عمالقة التكنولوجيا. ويخشى أن تطور الآلات التي تتجاوز الذكاء البشري أهدافها الخاصة للحفاظ على الذات، مما يهدد بقاء الجنس البشري خلال عقد من الزمن. ومع ذلك، فإن رأيه بشأن خطر الانقراض هذا مثار للجدل، لا سيما من قبل زميله يان لوكان.
يشير مصطلح الذكاء العام الاصطناعي (AGI) إلى نوع افتراضي من الذكاء الاصطناعي يساوي أو يتفوق على القدرات البشرية في جميع المهام المعرفية تقريبًا. إنشاء ذكاء عام اصطناعي هو هدف معلن لشركات مثل OpenAI، وجوجل، وSpaceXAI، وميتا. في يوليو، صرح سام ألتمان، المؤسس المشارك والرئيس التنفيذي لشركة OpenAI، المطورة لـ ChatGPT، أن الذكاء الاصطناعي دخل مرحلة « التفرد »، أي أنه تجاوز نقطة اللاعودة التي يتجاوز فيها الذكاء البشري ويصبح من الصعب السيطرة عليه.
يعتقد بعض الخبراء أن تهديدات الذكاء الاصطناعي أصبحت الآن خارج السيطرة. ويستشهدون بنماذج اكتسبت القدرة على تحسين نفسها ذاتيًا، وعوامل ذكاء اصطناعي تجاوزت الرقابة البشرية واخترقت خدمات طرف ثالث، بالإضافة إلى معلومات مضللة مولَّدة بالذكاء الاصطناعي استخدمها الجيش الأمريكي وكادت تطلق حربًا مع الصين. كما يذكرون مخاطر الحرب السيبرانية والإرهاب البيولوجي. على الرغم من المقترحات التشريعية، مثل « زر إيقاف الطوارئ »، يخشى المطلعون من أن الوقت قد فات الآن للتحرك.
