تعيد الذكاء الاصطناعي تشكيل معادلة الأمان على جبهتين: تعمل وكلاء الذكاء الاصطناعي باستقلالية متزايدة، بينما يُسرع الذكاء الاصطناعي اكتشاف الثغرات. تقع على عاتق مراكز العمليات الأمنية (SOC) مهمة فرز هذه الإشارات، في سياق تسلط فيه الأخبار الضوء على أنظمة ذكاء اصطناعي تقوم بإجراءات غير متوقعة وغير مصرح بها، وكذلك فاعلين خبثاء يستخدمون سير عمل ذكاء اصطناعي مستقلة في عملياتهم السيبرانية.
OpenAI نشرت ستة أمثلة على سلوكيات خبيثة أو مثيرة للقلب لوحظت أثناء التدريب: وصلت النماذج إلى مفاتيح واجهة برمجة التطبيقات (أوراق اعتماد تمنح الوصول إلى خدمة) معروضة دون إذن، أو قامت بتنزيل ملفات خارجية أو استخدام مستودعات للتواصل. من جانبها، أبلغت Anthropic عن فاعلين خبثاء ينشرون أسرابًا من الوكلاء في عمليات استطلاع، واستغلال، واستخراج بيانات، وبحث عن ثغرات.
لم يعد بوسع المنظمات الاكتفاء باكتشاف المشكلات بعد وقوعها. التحدي الآن يتمثل في الحفاظ على إشراف حقيقي عندما يمكن للمهاجمين وأنظمة الذكاء الاصطناعي العمل بسرعة الآلة، مع تدخل بشري أقل فأقل.
يزيد اكتشاف الثغرات بمساعدة الذكاء الاصطناعي من حجم وسرعة ما يجب على الفرق التحقق منه، وتحديد أولوياته، وتصحيحه. كما يقلص النافذة الزمنية بين الكشف عن ثغرة واستغلالها. يبقى معرفة ما تستخدمه، وتطبيق التصحيحات بسرعة، وتقليل السطح المعرض، ضرورات حتمية.
تنطبق نفس منطق الرؤية على وكلاء الذكاء الاصطناعي. نظرًا لعملهما بسرعة الآلة، يحتاجون إلى أوراق اعتماد ذات نطاق محدود وعمر قصير، وإدارة صارمة للأسرار، بالإضافة إلى حدود واضحة على الموارد التي يمكن الوصول إليها وعلى وجهات البيانات. تشكل القدرة على إيقاف الوكيل في أي لحظة طبقة حاسمة من الإشراف البشري.
لا يمكن تأمين ما لا يُرى
لا تمثل الاستجابة النهائية للوكيل سوى جزء من سجله الأمني. يجب على الفرق فهم كيفية تصرف أنظمة الذكاء الاصطناعي في بيئتها: إلى أي موارد تتصل، وما هي البيانات التي تعالجها، وما إذا كان هذا النشاط متسقًا مع ما هو متوقع. يفترض ذلك ربط الإشارات التي يولدها الذكاء الاصطناعي بالهويات، والتطبيقات، والبنية التحتية، بدلاً من معاملته كصومعة منفصلة.
بدون هذا السياق، يصعب التمييز بين نشاط غير طبيعي وسلوك مشروع، أو فهم الظروف التي أدت إليه. حولت هذه الديناميكية الرؤية من حالة تخصص تشغيلي إلى شرط أمني حاسم.
تعتمد هذه الرؤية أيضًا على أساسيات. يجب جمع القياسات عن بعد التي يولدها الوكلاء (المطالبات، استدعاءات الأدوات، الموارد المتأثرة، الهويات المستخدمة)، وحفظها، وحمايتها من أي تلاعب، من أجل تتبع خيط الإجراءات التي تمت.
حتى مع رؤية داخلية قوية، لن تكون أي فريق أول من يرى كل تهديد. تُستخدم نفس قدرات الذكاء الاصطناعي التي تُسرع الهجمات بشكل متزامن من قبل فاعلين متعددين، في بيئات متعددة. لذا يظهر تبادل معلومات الاستخبارات حول التهديدات والتعلم الجماعي كمكونات أساسية للاستجابة. عندما يمكن فحص الملاحظات، ومساءلتها، ومشاركتها ضمن مجتمع أوسع، تزداد فرص المنظمات في التحقق من الثغرات، وتطوير التصحيحات، والتحرك قبل أن تصبح نفس الثغرة مشكلة في مكان آخر.
يجب أن تواكب الأسس السرعة
يمكن للذكاء الاصطناعي أن يلعب دورًا دفاعيًا أيضًا. عند استخدامها جيدًا، تساعد المحللين على ربط الإشارات، وتلخيص الحوادث، وتحديد أولويات التنبيهات، وتسريع التحقيقات. لكنها لا تستطيع تعويض البيانات المجزأة أو غير القابلة للوصول، ولا تحل محل أساسيات الأمان التي لم يتم وضعها.
المنظمات الأكثر استعدادًا هي تلك التي قامت بهذا العمل الأساسي. تعرف ما هي الأصول التي تمتلكها، وما هو معرض، وكيف يبدو السلوك الطبيعي. تطبق مبدأ الامتياز الأدنى على الهويات البشرية والوكلاء على حد سواء، وتحافظ على العناصر السرية بعيدًا عن متناول الوكلاء، وتحتفظ بقياسات عن بعد محمية من أي تلاعب.
لديها نقاط تحكم (بوابات) للموافقة على إجراءات الوكلاء ذات التأثير العالي، وكذلك القدرة على إيقاف الوكيل عندما يبدو شيء ما غير طبيعي. تبدأ عمليات الاستجابة للحوادث لديها من افتراض أن الوكلاء قد تتصرف بشكل خاطئ، مع خطط عمل (إجراءات قياسية) تغطي سحب هوية الوكيل، وإعادة بناء إجراءاته، واستعادة ما لمسته.
القدرات الأكثر قوة للذكاء الاصطناعي لا تجعل هذه الأساسيات قديمة؛ بل تزيد من تكلفة غيابها. تتيح الرؤية التحقق من أنها صامدة. مع وجود هذه الأسس، يمكن للمدافعين الاستجابة لما يكشفه الذكاء الاصطناعي، وفهم ما يحدث في بيئاتهم، والتحرك قبل أن تتحول ثغرة تحكم إلى حادث.
