The AI / news

28 ثغرة صفرية في أقل من يومين : هل أمن الروبوتات يواكب ذلك؟

28 ثغرة صفرية في أقل من يومين : هل أمن الروبوتات يواكب ذلك؟
3 دقيقة للقراءة

VicOne تعلن عن تحديد 28 ثغرة صفرية في أقل من يومين، بفضل بحث مدعوم بالذكاء الاصطناعي، في برامج وأدوات تدعم منظومة الذكاء الاصطناعي المادي. ومن بين المشاريع المتأثرة مشاريع طورتها أو تحافظ عليها شركات مثل Google وNVIDIA وMeta. هذا المقال محتوى برعاية VicOne.

الثغرة الصفرية هي نقطة ضعف غير معروفة سابقاً ولا يتوفر لها أي تصحيح. وفقاً للتحقق الأولي، تصنف جميع الثغرات الـ 28 المكتشفة ضمن هذه الفئة. قد يتغير هذا العدد بعد مراجعة الناشرين والجهات المسؤولة عن الثغرات، كما أن بعض الاكتشافات لا تحمل بعد رقم تتبع CVE، وهو المعرف القياسي المخصص للثغرة.

تساعد العديد من هذه الأدوات الفرق في تدريب الروبوتات ومحاكاتها واختبارها وتشغيلها. لذا، قد تؤثر نقطة ضعف في أحدها على النماذج التي تصممها الفرق، أو نتائج الاختبارات التي تعتمد عليها، أو التعليمات المرسلة إلى الروبوتات.

اكتشاف الثغرات بسرعة أكبر

يتضمن اكتشاف الثغرات فحص الشيفرة البرمجية، وتتبع طريقة اتصال الأنظمة، والتحقق مما إذا كان يمكن استغلال نقطة ضعف مشتبه بها فعلياً. وفقاً لـ VicOne، يمكن للذكاء الاصطناعي تسريع جزء من هذا العمل وتمكين الباحثين من تحليل المزيد من البرامج في وقت أقل. ومع ذلك، قد يمتلك المهاجمون قدرات مماثلة.

عندما تكون الثغرة من النوع الصفري، قد لا يترك الاكتشاف السريع وقتاً كافياً للرد. لا يعني هذا التعرض بالضرورة حدوث هجوم، لكن على الفرق تحديد ما إذا كانت تستخدم البرنامج المعني وما الذي يمكن للمهاجم الاطلاع عليه أو تعديله.

مخاطر في كل مرحلة من دورة الحياة

تتعلق اكتشافات VicOne بثلاث مراحل من دورة حياة الروبوت: التطوير والتدريب، ثم المحاكاة والتحقق، ثم النشر والتشغيل. وفقاً للشركة، تشكل أدوات التطوير والتدريب والمحاكاة أو التحقق 75% من الاكتشافات، مما يعني أن المخاطر قد تظهر حتى قبل نشر الروبوت.

أثناء التدريب، قد يتم تعديل نموذج مُدرَّب مسبقاً (أي تم تعليمه مسبقاً على كميات كبيرة من البيانات) دون علم الفريق. قد يؤدي ذلك إلى تصرفه بشكل طبيعي أثناء الاختبارات المعتادة، لكنه قد يستجيب بشكل خاطئ لجسم أو مشهد أو أمر معين بعد نشره. أثناء المحاكاة، قد يؤدي مشهد أو نموذج روبوت مخترق إلى تحريف بيانات المستشعرات المحاكاة أو نتائج الاختبارات، مما يؤدي إلى اعتماد روبوت بناءً على أدلة مضللة.

أثناء التشغيل، قد يقوم مهاجم بتعديل ملفات تؤثر على تخطيط الحركة، أو إرسال بيانات خرائط خبيثة قادرة على تعطيل شاشة مراقبة المشغل. وفقاً لـ VicOne، قد يعرض اختراق جهاز تحكم عن بعد التعليمات المرسلة إلى الروبوت للخطر. وتوضح VicOne أن هذه عواقب محتملة وليست نتائج مثبتة لكل اكتشاف.

في عرض منفصل، استغل باحثو VicOne ثغرة لمنع عمل أمر الإيقاف عن بعد لإحدى الروبوتات. وفقاً للشركة، يظهر هذا الحالة أن على الفرق التحقق من استمرار فعالية أجهزتها الأمنية عندما يتم اختراق البرنامج الذي يشغلها.

التحقق من التصحيح قبل نشره

حتى عندما ينشر الناشر تصحيحاً، يجب على الفرق تحديد الأنظمة المتأثرة، والتحقق من توافق التحديث، والتأكد من أنه يحافظ على السلوك المتوقع. يبقى الاختبار الناجح سابقاً مفيداً، لكن قد تكشف الثغرة المكتشفة حديثاً عن ظروف لم يفحصها ذلك الاختبار.

تقدم VicOne ثلاثة أسئلة لتوجيه الاستجابة: أين يتم استخدام البرنامج المعني، بما في ذلك على أجهزة التدريب، وفي بيئات المحاكاة، وعلى الروبوتات المنشورة؟ ما الذي يمكن للثغرة تعديله، سواء كان النماذج، أو نتائج الاختبارات، أو وضوح رؤية المشغلين، أو سلوك الروبوت؟ كيف نتحقق من فعالية الحماية؟ عندما يكون التحديث الفوري مستحيلاً، قد تكون هناك حاجة إلى إجراءات مؤقتة، مثل تقييد الوصول إلى خدمة معنية، في انتظار تصحيح مُعتمد.

تعرض VicOne أيضاً منتجين: Radeis، الذي يساعد في تحديد الثغرات الصفرية المحتملة، وتقييم أمن نماذج الذكاء الاصطناعي والأنظمة، ومحاكاة تأثير هذه المخاطر على سلوك الروبوت قبل نشره، وRthena، الذي يوفر اكتشاف التهديدات والاستجابة لها في إطار السياسات المعتمدة أثناء التشغيل.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x