أنثروبيك تفصل، في ملف طرحها العام، مخاطر الأسلحة الكيميائية الحيوية والهجمات الإلكترونية الضخمة وفقدان السيطرة

يوم الاثنين 26 أكتوبر، قدمت أنثروبيك ملفها إلى لجنة الأوراق المالية والبورصات الأمريكية (SEC)، الهيئة الرقابية للأسواق المالية الأمريكية، بهدف الانضمام إلى ناسداك منتصف نوفمبر. في هذا الوثيقة « S-1 » الرسمية جدًا، تحذر الشركة مستثمريها المستقبليين من المخاطر التي يفرضها تقدم الذكاء الاصطناعي. تم تخصيص نحو مئة صفحة من أكثر من 300 صفحة لهذا الغرض.

سيناريوهات مفصلة

آرثر جريمومبونت، مسؤول المناصرة في مركز أمان الذكاء الاصطناعي (CeSIA)، وهي منظمة غير ربحية، يعتبر هذا القسم غير معتاد. « حجم هذا القسم، بالإضافة إلى دقة السيناريوهات المطورة، يتجاوز بكثير ما هو معتاد في الملفات المقدمة للهيئة المالية الأمريكية »، يلاحظ.

وفقًا له، تأتي هذه الخطوة في سياق استمرارية تواصل الشركة، التي يعتقد مديرها والعديد من موظفيها بخطورة هذه المخاطر. لكنه يشير إلى مفارقة: « أنثروبيك تساهم في بناء شيء خطير جدًا، وفي الوقت نفسه تحذر من خطورة هذه الظواهر. »

تشير الوثيقة خصوصًا إلى إنشاء أسلحة كيميائية حيوية، وهجمات إلكترونية واسعة النطاق تستهدف شبكات المياه والكهرباء، أو تطوير الذكاء الاصطناعي بشكل مستقل خارج أي سيطرة بشرية. وتكتب أنثروبيك أن الأنظمة المتقدمة بما فيه الكفاية قد تفرض هذه المخاطر إذا تم « تحويلها، أو تكرارها، أو تحويلها إلى أسلحة، أو السماح لها بالعمل بدرجة عالية من الاستقلالية ».

يعتقد آرثر جريمومبونت أن هذه التهديدات ليست نظرية. ويذكر تقرير حادثة نشرته أنثروبيك في بداية سبتمبر يشير إلى محاولات استخدام Claude لزيادة فتك فيروس الشيكونغونيا أو لجعل إنفلونزا الطيور معدية للبشر. كما يذكر حالة، يعرضها كحقيقة، لمخترق استخدم Claude في هجوم إلكتروني على موقع الإدارة الضريبية المكسيكية، ونجح في سرقة 200 مليون ملف ضريبي. « كل هذه التهديدات يمكن أن تتراكم وتتضاعف، وبشكل ملموس جدًا، تسبب مخاطر كارثية مطلقة للبشرية »، يؤكد.

وكلاء يصعب التحكم بهم

تقلق أنثروبيك أيضًا من سلوك وكلاء الذكاء الاصطناعي لديها، المصممين لأداء مهام معقدة وطويلة بمفردهم، والذين قد يقومون بأفعال غير متوقعة من قبل البشر. وتذكر المصادر أن OpenAI، الشركة الأم لـ Chat GPT، شهدت بالفعل مثل هذه الحادثة: في يوليو الماضي، خرجت نماذجها المتقدمة عن السيطرة خلال اختبارات الأمان واختَرقت بمبادرتها منصة Hugging Face، وهو « حادث إلكتروني غير مسبوق » حسب OpenAI.

يشير آرثر جريمومبونت أيضًا إلى « التحسين الذاتي التكراري للنماذج »، أي استخدام ذكاء اصطناعي لتطوير الجيل التالي. « اليوم، ربع البحث والتطوير، والبحث الأساسي، في أنثروبيك يتم بالكامل بواسطة الذكاء الاصطناعي، بينما كان 3% فقط في أبريل الماضي »، يوضح. وفي الوثيقة، تعترف الشركة أيضًا بأن نماذجها قد تتبنى « سلوكيات حماية ذاتية » وتكتشف عندما تخضع لاختبار أمان.

عرض مدير أنثروبيك، داريو أمودي، هذه المخاطر بنفسه في تدوينة نشرها على مدونته في سبتمبر الماضي. ومع ذلك، يرى آرثر جريمومبونت أن الموارد المخصصة للأمان غير كافية، ويشير إلى أن الشركة يجب أن تشتري، حسب الملف، « قدرات حوسبة إضافية بقيمة 500 مليار دولار ».

بالنسبة للدعوة العالمية التي أطلقها CeSIA لـ »وضع خطوط حمراء لمنع المخاطر غير المقبولة المرتبطة بالذكاء الاصطناعي »، يقترح آرثر جريمومبونت إنشاء هيئة مماثلة للوكالة الدولية للطاقة الذرية، مكلفة بتفتيش النماذج والبنى التحتية الحاسوبية التي تشغلها. ويضيف أنه خارج التنظيم الأوروبي للذكاء الاصطناعي، « هذه التقنيات غير منظمة بشكل استثنائي ».