مع وكلاء الذكاء الاصطناعي، يتغير طبيعة الخطر. لم يعد الخطأ يقتصر على إجابة خاطئة أو غير دقيقة: بل يمكن أن يصبح قرارًا، ثم إجراءً في نظام المعلومات. وفقًا لمعهد كابجيميني للأبحاث، يمكن لهؤلاء الوكلاء توليد ما يصل إلى 450 مليار دولار من القيمة بحلول عام 2028، بينما قد تصل 15% من العمليات التجارية إلى مستوى من الاستقلالية الجزئية أو الكاملة خلال الأشهر الاثني عشر المقبلة.
كلما زاد دخول الوكلاء في سلسلة خلق القيمة، كلما أصبح التحكم في قدراتهم على التصرف مسألة تتعلق بالحوكمة بقدر ما تتعلق بالأمن السيبراني. ويؤكد النص أن النقاش، الذي كان لفترة طويلة مركزًا على النماذج وبياناتها وتحيزاتها أو أوهامها، يجب أن ينتقل الآن إلى التركيز على هندسة السلطة في نظام المعلومات.
عدم الخلط بين التفويض ونقل الصلاحيات
غالبًا ما تكون الاستجابة الفورية هي السماح للوكيل بالتصرف « نيابة عن » مستخدمه ونقل صلاحياته إليه. هذا النمط من العمل، الذي لوحظ بالفعل، يُعتبر هنا خاطئًا. فالمدير المالي يصل بشكل مشروع إلى الخزينة والرواتب وإعداد التقارير أو بعض العمليات الاستراتيجية، في حين أن الوكيل المكلف بمطابقة الفواتير يحتاج فقط إلى جزء صغير من هذه الصلاحيات. نقل هوية المدير المالي إليه يعادل الخلط بين سلطة من يكلف بالمهمة وسلطة من ينفذها.
البرنامج لديه أذونات، بينما يجب أن يتلقى الوكيل تفويضًا. وفقًا للنص، يجب أن يستند هذا التفويض إلى هوية خاصة، ومهمة محددة، وموارد يمكن الوصول إليها، ومدة زمنية، وإجراءات مسموح بها، وقدرة على الإلغاء. يجب أن يقتصر السلطة الفعلية للوكيل على التقاطع بين حقوقه الخاصة، وحقوق المستخدم، وما تتطلبه المهمة، « وليس أبدًا على مجموعها ». تصبح القاعدة حاسمة عندما يتعاون عدة وكلاء: تفويض مهمة لا يجب أن يسمح أبدًا بتفويض المزيد من السلطة.
أصبح الموضوع ملموسًا بالفعل في بعض الشركات، خاصة في القطاع المصرفي، حيث يتم نشر بيئات ذكاء اصطناعي توليدي آمنة وخاضعة للحوكمة لدى الموظفين. عندما تتطور هذه البيئات إلى وكلاء قادرين على التدخل في العمليات التجارية، فإن حماية البيانات لم تعد كافية: يجب أيضًا حوكمة السلطة الممنوحة للآلة.
منح هوية للوكلاء لمنحهم الاستقلالية
تعتقد Cloud Security Alliance أن الهويات غير البشرية، مثل حسابات الخدمة، ومفاتيح واجهة برمجة التطبيقات، والشهادات، والرموز المميزة، أو بيانات الاعتماد التي يستخدمها الوكلاء، تزيد في المتوسط 45 مرة عن الهويات البشرية في الشركات. لذلك، يجب معرفة من يتصرف بالضبط. يميز النص في هذا الصاحب بين مالك الوكيل، المسؤول عن الوكيل في مرحلة الإنتاج ودورة حياته، والوكيل نفسه، الممنوح حقوقًا خاصة، والمستخدم الذي يتصرف نيابة عنه.
تتطلب هذه الحوكمة إمكانية تتبع شاملة من البداية إلى النهاية. يجب أن تكون الشركة قادرة على إعادة بناء إجراءات الوكيل، وتفاعلاته مع نظام المعلومات، ومصادر البيانات التي يستخدمها. يجب أن تتيح هذه الرؤية اكتشاف السلوكيات غير المطابقة، وتشغيل إنذارات أو ضوابط أمان، وللوظائف الحرجة أو الحساسة، الحفاظ على التحقق البشري طالما لم يتم اختبار عمل الوكيل بشكل كافٍ.
وفقًا لهذا التحليل، الهدف ليس الحد من استقلالية الوكلاء، بل خلق شروط الثقة. كلما تمكنت الشركة من تحديد وكلائها، وتحديد نطاق تفويضهم، ومتابعة إجراءاتهم، والاحتفاظ بقدرة التدخل البشري، كلما استطاعت منحهم مسؤوليات أكبر. ويخلص النص إلى أن السؤال لن يكون بعد الآن فقط حول أي ذكاء اصطناعي تستخدمه الشركة، بل لمن أعطت مفاتيح نظام المعلومات الخاص بها، وبأي هوية، وتحت أي رقابة.
