The AI / news

أمن الذكاء الاصطناعي في أوروبا : بيانات rot تفرض نفسها كقضية محورية

أمن الذكاء الاصطناعي في أوروبا : بيانات rot تفرض نفسها كقضية محورية
3 دقيقة للقراءة

بينما تستعد الاتحاد الأوروبي لتطبيق قانون الذكاء الاصطناعي، تجذب جودة البيانات التي تغذي أنظمة الذكاء الاصطناعي اهتماماً أقل من امتثالها. قد ينجح نموذج في اجتياز اختبارات قاطعة ويلبي المتطلبات التنظيمية دون أن تكون موثوقيته التقنية مضمونة بذلك، كما يوضح محللو التقرير.

تشغل الشكوك المحيطة بالمواعيد النهائية لقانون الذكاء الاصطناعي الأوروبي، بالإضافة إلى المتطلبات الجديدة المتوقعة في إطار خطة عمل الاتحاد الأوروبي في مجال الأمن السيبراني والذكاء الاصطناعي، مسؤولي أمن نظم المعلومات (CISOs) في الشركات الأوروبية بشكل كبير. لكي يُعتبر نظام ذكاء اصطناعي « موثوقاً »، يجب أن يجتاز بنجاح اختبارات في بيئات معزولة (ساند بوكس)، ويستجيب لمعايير تنظيمية محددة. ومع ذلك، فإن الامتثال الرسمي والأمن التشغيلي ليسا بالضرورة مترادفين.

تشكل البيانات الحلقة الأكثر إهمالاً في العادة. إذا كانت البيانات المقدمة للنماذج زائدة عن الحاجة أو قديمة أو تافهة، أي ما يُسمى ببيانات ROT، فإن عمليات الرقابة تفقد صحتها.

معايير لا تزال غير مكتملة

استمر التشريع الأوروبي للذكاء الاصطناعي في التطور خلال الأشهر الأخيرة. ونظراً لأن المعايير التقنية اللازمة لتقييم الامتثال لم تكتمل بعد، فقد تم تأجيل الموعد النهائي الرئيسي للامتثال المطبق على أنظمة الذكاء الاصطناعي المُنشرة في بيئات عالية المخاطر من أغسطس 2026 إلى ديسمبر 2027.

لتعويض غياب أطر التقييم المرجعية، نشر الاتحاد الأوروبي خطته للعمل بعد عدة أسابيع من الإعلان عن هذا التأجيل. لا تضيف هذه الخطة أي قيود قانونية. لكنها توفر بدلاً من ذلك بيئات اختبار محمية، وإرشادات، وأدوات تقييم لاستخدامها قبل أي إطلاق تجاري، بهدف نشر أنظمة الذكاء الاصطناعي المتطورة بأمان والبقاء متوافقة مع لائحة الذكاء الاصطناعي وتوجيه NIS2.

يشجع هذا الإطار، وفقاً للتقرير، تطوير نماذج آمنة، لكنه لا يغطي سوى جزء من السلسلة. للحصول على شهادات الامتثال، سيتعين على فرق الأمن فحص الكود بتفصيل وجمع الوثائق الإثباتية. ومع ذلك، يمكن لأداة ذكاء اصطناعي آمنة ومتوافقة أن تنتج مخالفات إذا تم استخدامها بشكل خاطئ.

يتم اكتشاف الخطأ البشري، في معظم الحالات، قبل أن يتفاقم. ومع ذلك، فإن الهويات غير البشرية والعملاء المستقلين يتجاوزون عدد الموظفين البشريين في الشركات متوسطة الحجم بـ 82 مرة. مع وكلاء الذكاء الاصطناعي، تنتشر الأخطاء بسرعة كبيرة، ويمكن للمعلومات المعيبة أن تُفسد النموذج الأفضل حماية دون أن تُطلق أي إنذار.

التكلفة الخفية للبيانات

تفحص الشركات النماذج بعناية، لكن المعلومات التي تغذيها تحظى باهتمام أقل. وعندما تُطرح مسألة البيانات، يتم تناولها غالباً من منظور الأمن ونادراً من منظور الجودة.

حوالي 80% من البيانات المخزنة لدى الشركات تكون بصيغ غير منظمة وتحتوي على كمية كبيرة من ملفات ROT، متراكمة على مدى عدة عقود في بنى تحتية سحابية قديمة. تغذية وكلاء الذكاء الاصطناعي بهذه البيانات يمكن أن تُفسدهم وتقودهم إلى خيارات مبنية على تحليلات مشوهة، لدرجة التسبب في حالات عدم امتثال، حتى عندما تثبت الاختبارات التي أجريت في البيئات المعزولة (ساند بوكس) أنها ناجحة.

إدارة هذه البيانات الطفيلية، التي غالباً ما تكون مكررة، تولد أيضاً تكاليف يصعب تحديدها في محاسبة المنظمات. تُستنفذ موارد الحوسبة والسحابة لمعالجة معلومات لا فائدة منها. تجاوزت استثمارات رأس المال (CapEx) للشركات التكنولوجية الكبرى المخصصة للذكاء الاصطناعي حاجز 650 مليار دولار، لكن التشريعات الأوروبية، كما يلاحظ التقرير، لا تزال تتجاهل تكلفة البيانات التي تغذي هذه الأنظمة.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x