أعلنت شركة Cisco طرح Project Quarry مفتوح المصدر، وهو أداة مصممة لتحديد الهجمات التي تنفذها وكلاء الذكاء الاصطناعي. يعتمد مبدأه على تحليل كيفية كشف سلسلة من الإجراءات، تبدو ظاهريًا عادية، عن نية خبيثة، أكثر من اعتماده على اكتشاف إجراءات منفردة.
تقوم أنظمة الأمن التقليدية عادةً بتقييم كل إجراء على حدة لتحديد ما إذا كان خطيرًا أو حميدًا. لكن هذه المقاربة تصل إلى حدودها مع وكلاء الذكاء الاصطناعي، أي البرامج القادرة على تنفيذ عدة إجراءات متتالية بشكل مستقل، عندما تظهر النية الخبيثة فقط عبر سلسلة من الإجراءات. تقدم Cisco مثالًا عن الاحتيال المصرفي: حيث تقوم البنوك بتحليل كل عملية شراء بشكل منفصل، في حين أن اكتشاف الاحتيال يجب أن يحدد أنماطًا موزعة على عدة عمليات شراء، أحيانًا في أماكن مختلفة وفي أوقات غير متوقعة. «تحتاج أمن الوكلاء إلى نفس المزيج من اكتشاف الأنماط والأدلة، مطبقًا على الخطوات التي يتخذها الوكيل بدلاً من عمليات الشراء»، كما كتبت الشركة.
قواعد تجمع بين التعلم الآلي والمنطق
تصف Cisco أداة Quarry كلغة قواعد «عصبية رمزية»، أي تجمع بين حكم نماذج التعلم الآلي وفحوصات قائمة على القواعد. وهي تغطي المحادثات مع النماذج اللغوية الكبيرة (LLM)، سواء كانت من جولة واحدة أو متعددة الجولات، وكذلك الوكلاء، واستخدام الأدوات، والتبادلات عبر بروتوكول سياق النموذج (MCP)، وهو معيار يربط النماذج بأدوات خارجية، والمدخلات متعددة الوسائط.
تعتمد كل قاعدة على نوعين من العناصر. أولاً، أدلة مستمدة من مصنفات التعلم الآلي و«القضاة» من النماذج اللغوية الكبيرة؛ وثانيًا، قواعد رمزية تتحقق من شروط محددة، أو تسلسلات، أو مطابقات للسلاسل النصية، أو العلاقات بين الأدوات. تم تصميم Quarry لتكون طبقة سياسة مشتركة، وليس كبديل لجميع أجهزة الكشف أو آليات التحكم الحالية.
يمكن استخدام الأداة لتنفيذ ضوابط وقائية في الوقت الفعلي على الوكلاء، وإجراء تحليلات أمنية بأثر رجعي بناءً على مجموعات من القواعد، بالإضافة إلى الاستجابة للحوادث. وهي تتكامل مع الإطار الحالي لشركة Cisco، وهو Integrated AI Security & Safety Framework، حيث توسعه من وصف المخاطر المرتبطة بالذكاء الاصطناعي إلى اكتشافها في نشاط الوكلاء.
تهديد تمت ملاحظته بالفعل
تذكر Cisco أنه في عام 2025، تم استخدام Claude Code من قبل جهات خبيثة في حملتين: واحدة استهدفت حوالي 30 منظمة، والأخرى استهدفت مؤسسات حكومية مكسيكية. في الحالة الأولى، تم تقسيم الهجوم إلى مهام روتينية، مما جعل نظام الدفاع يعتقد أنها اختبارات أمنية. عند النظر إليها مجزأة، بدت وكأنها اختبار اختراق مصرح به؛ ولم يظهر هدفها الحقيقي، وهو سرقة البيانات، إلا عندما تم ربط الطلبات بالترتيب الصحيح.
تشدد Cisco على أن المهاجمين يعدلون باستمرار أساليبهم. لذلك، يجب أن يؤدي كل تقنية جديدة يتم تحديدها إلى قاعدة Quarry جديدة، يمكن لجميع المنظمات استخدامها. للاستجابة لهذا التحدي، أعدت الشركة مكونًا إضافيًا يسمح لوكيل برمجي بصياغة وتجميع وتحسين القواعد بناءً على وصف بلغة عادية لمخاطر المنظمة، ثم اختبارها على محادثات حقيقية.
تتضمن حزمة البدء لغة قابلة للقراءة للمحادثات، واستخدام الأدوات، والعلاقات بين الأحداث، وماسح ضوئي عبر سطر الأوامر، ومجموعة أدوات تطوير برمجيات (SDK) بلغة Python، بالإضافة إلى المكون الإضافي لـ Claude Code و Codex ووكلاء آخرين متوافقين مع MCP. تذكر Cisco أيضًا مثالًا: «أعادت Hugging Face تركيب حوالي 17600 إجراء للوكلاء بأثر رجعي». الهدف المعلن هو تمكين المدافعين من «التعرف على هذه التسلسلات بينما لا تزال قيد التنفيذ».
