يعتقد أليكس ستاموس، مدير الأمن (CISO) في شركة Cognition وأستاذ في جامعة ستانفورد، أن الأمن السيبراني يمر بفترة مربكة للغاية، حيث يضخم الذكاء الاصطناعي موجات من التسلل والهجمات. في مقابلة مع بودكاست *Decoder* من The Verge، يؤكد أن صناعة الأمن كما نعرفها « متأخرة جوهريًا » في مواجهة هذه الهجمات، وأنها تدخل ما يسميه « عصرًا مظلمًا ».
لتوضيح هذا التحليل، يستشهد أليكس ستاموس بعدة حوادث حديثة. وفقًا له، تعرضت شركة Fireworks، المزودة لخدمات الذكاء الاصطناعي للعديد من الشركات، للاختراق، وسُرقت مفاتيح واجهة برمجة التطبيقات (API) (وهي بيانات الاعتماد التي تتيح للبرامج التواصل مع بعضها). يُعتقد أن هذه المفاتيح مكّنت من الدخول إلى Cursor، حيث نُشر إضافة ضارة إلى حوالي 5000 شركة، مما تسبب في 5000 خرق محتمل. كما وصف اختراق Binance بأنه « أكبر سرقة في تاريخ البشرية ».
يصف أيضًا الطريقة التي تُنفذ بها هذه الهجمات. يتحدث عن « سلسلة القتل » (kill chain)، أي مجموعة الخطوات اللازمة للوصول إلى الهدف. تقليديًا، كان المهاجمون يعدون الثغرات وبرامج الاستغلال مسبقًا، قبل أن ينشرها إنسان. مع الذكاء الاصطناعي، وخاصة النماذج مفتوحة الأوزان (التي يمكن للجميع الاطلاع على آلية عملها)، يمكن أتمتة هذه السلسلة: وفقًا له، يمكن للنظام اكتشاف الثغرات وكتابة برامج الاستغلال في الوقت الفعلي. ويشير إلى أداة مفتوحة المصدر صينية متاحة على GitHub، والتي، عند اقترانها بنموذج يُدعى « obliterated GLM-5.3″، يُزعم أنها مكّنت من اختراق ثلاث بنوك كورية جنوبية، ثم، وفقًا له، حوالي 200 شركة إضافية.
عالم يشبه تسعينيات القرن الماضي
يقارن أليكس ستاموس الوضع بنهاية التسعينيات، عندما كان نظام Windows، حسب تعبيره، « كارثة من ناحية الأمن ». الفرق، كما يوضح، هو أن العالم بأسره يعمل اليوم على الإنترنت، وأن الهجمات يمكن الآن أتمتتها على نطاق واسع. كما يتطرق إلى الجهات الفاعلة: وفقًا له، فإن الهجمات على شركات الذكاء الاصطناعي تنفذها ما يُسمى بـ « الصناعة الصينية المنزلية للوصول » (Chinese cottage access industry)، وهي مقاولون صينيون صغار يبيعون وصولهم لشركات أكبر، بينما يقع سرقة البيتكوين من Binance بشكل رئيسي على عاتق كوريا الشمالية، مع، وفقًا له، هندسة اجتماعية معقدة للغاية.
تكاليف دفاع مرتفعة للغاية
يُشكل الخلل الاقتصادي محورًا رئيسيًا في تفكيره. يجادل بأن تكلفة الرمز (token) للمهاجمين تميل نحو الصفر، بينما تظل تكلفة الدفاع مرتفعة. ويستشهد بزميل يعمل في منصة أمنية كبيرة، والذي يقول أن تحقيقًا واحدًا يُجرى باستخدام نموذج سيبراني متقدم يكلف 900 دولار. للتعامل مع هذه المشكلة، تقوم Cognition بتدريب نماذجها الخاصة، أو إعادة تدريب نماذج مفتوحة الأوزان، لتقليل هذه التكاليف.
يتطرق أليكس ستاموس أيضًا إلى حل أكثر جذرية: إعادة كتابة نواة لينكس بلغة Rust، وهي لغة أكثر أمانًا من ناحية الذاكرة. يعتقد أن مثل هذا المشروع، تقوده Google أو Amazon، سيكلف 100 مليون دولار، وهو مبلغ يراه متواضعًا مقارنة بالتكاليف المجتمعية للتصحيحات المتتالية. ويضيف أن عدد التصحيحات المنشورة شهريًا في ازدياد مستمر: وفقًا له، تضمنت أحدث إصدار من Patch Tuesday « 900 ونيّف » من التصحيحات.
عند سؤاله عن التحقق من المحتوى، يعتقد أنه من الأكثر موثوقية إثبات أصالة صورة ما بدلاً من اكتشاف المحتوى الذي أنتجه الذكاء الاصطناعي. ويذكر أن Adobe تقدم بالفعل تحققًا تشفيريًا للمصورين المحترفين، وأن أجهزة iPhone تتضمن الآن ميزة مماثلة.
