أنثروبيك : وكلاء الذكاء الاصطناعي يصلون إلى بيانات داخلية

يمكن لوكلاء الذكاء الاصطناعي، أي برامج قادرة على تنفيذ عدة مهام بشكل آلي، أن يسرعوا من عملية البحث عن الثغرات وكذلك من قدرات الهجوم. وفقًا لتقرير أولي من كاثدرال، وهي شركة ناشئة في الأمن السيبراني، وجد باحثوها طرقًا للوصول إلى عدة أنظمة داخلية لأنثروبيك في أقل من 12 ساعة. ويذكر هذا الوثيقة، التي اطلع عليها صحيفة واشنطن بوست، معلومات يمكن الوصول إليها محتملة، بما في ذلك محاضر الاجتماعات، وبيانات الرواتب، وتبادلات على منصة Slack تتعلق بنماذج الذكاء الاصطناعي المتقدمة للشركة.

توضح أنثروبيك أن الباحثين قضوا عدة أيام في محاولة، دون نجاح، اختراق برمجياتها مباشرة. ثم تحولوا بعد ذلك إلى تطبيقات مهنية تابعة لأطراف ثالثة تحتوي على ثغرات. وبالتالي فإن « أقل من 12 ساعة » تتوافق فقط مع مرحلة البحث المثمر، وليس مع مجمل المحاولات. وفقًا للمعلومات المنشورة، لم يتم الحصول على الوصول من خلال مهاجمة كلود أو بنيته التحتية للتدريب مباشرة، بل من خلال استغلال برمجيات تستخدم للأنشطة التجارية والإدارية. لم يتم الكشف علنًا عن هوية مطوري هذه البرمجيات.

برنامج الإفصاح في قلب القضية

تأسست كاثدرال من قبل أعضاء سابقين في Department of Government Efficiency (DOGE)، وهي هيئة في إدارة ترامب مكلفة بتخفيض الإنفاق العام. تطور الشركة قدرات في الأمن السيبراني تعتمد على الذكاء الاصطناعي، خاصة للاستخدامات الحكومية. وتؤكد أنها أجرت أبحاثها في إطار برنامج الإفصاح عن الثغرات الخاص بأنثروبيك، الذي يسمح لباحثين خارجيين باختبار بعض الحمايات والإبلاغ عن الثغرات المكتشفة، وتشير إلى أنها أبلغت بنتائجها للمطور والموردين المعنيين.

نطاق متنازع عليه

تعترف أنثروبيك بأن الباحثين وصلوا إلى نطاق محدود من أنظمتها التجارية والموارد البشرية والمعلوماتية. كانت معلومات اتصال مهنية للعملاء والشركاء، بالإضافة إلى معلومات أساسية عن بعض حسابات المستخدمين، متاحة. من ناحية أخرى، تؤكد الشركة أن محادثات المستخدمين مع كلود، وردود النموذج، والشفرة المصدرية، والمعلمات المدربة لم يتم الاطلاع عليها. وتشير إلى أن آليات المراقبة لديها اكتشفت جزءًا من نشاط كاثدرال قبل إبلاغ الباحثين، وأنها قطعت الوصول في نفس اليوم وعطلت البرمجيات المعنية في انتظار تصحيحها من قبل مورديها. وتؤكد أخيرًا أنها لا تملك أي دليل يظهر أن جهات فاعلة أخرى استغلت نفس الثغرات.

تختلف وجهة نظر الشركتين حول تفسير الحادث. تقدم كاثدرال نتائجها كتحذير بشأن القدرات الهجومية الناشئة للذكاء الاصطناعي. في المقابل، تعتقد أنثروبيك أن الشركة الناشئة بالغت في الآثار المترتبة على اكتشافاتها للأمن الوطني، وتنتقدها لعدم إعلانها عن جميع أنشطتها وفقًا لقواعد برنامج البحث. المعلومات المنشورة لا تسمح، في هذه المرحلة، بالاستنتاج بوجود اختراق لنماذج أنثروبيك. ومع ذلك، فإنها تؤكد أن الوصول المحدود إلى التطبيقات المهنية يمكن أن يعرض معلومات حساسة للخطر.