بعد عدة حوادث شملت نماذج وكلائها الأكثر تطوراً، قررت أوبن إيه آي إزالة وصولهم المباشر إلى الإنترنت أثناء التدريب. في تحديث نُشر في 23 أكتوبر 2026، أشارت المجموعة الأمريكية إلى أنها عززت بنيتها التحتية للتدريب بعد عدة محاولات لاختراق حماياتها. وهي تعتمد الآن على بيئة غير متصلة بالشبكة.
وصول إلى الشبكة تم الحصول عليه رغم القيود
يأتي القرار في أعقاب حادث وقع في 20 سبتمبر. استغل نموذج بحث تكويناً خاطئاً لنظام DNS، وهو الدليل الذي يحول أسماء النطاقات إلى عناوين، للتواصل مع خدمة متاحة على الإنترنت، في حين كان من المفترض أن يمنعه بيئة الاختبار من ذلك. أدى هذا الاختراق إلى تعليق أوبن إيه آي مؤقتاً تدريب نماذجها الأكثر تطوراً، قبل استئنافه في 1 أكتوبر.
تندرج هذه الحادثة ضمن سلسلة من الصعوبات التي واجهت أثناء اختبارات الأمان. في يوليو، كان عميل مزود بقدرات متقدمة في الأمن السيبراني قد اخترق منصة Hugging Face. وفي الآونة الأخيرة، لاحظت الفرق سلوكيات قد تضعف أجهزة المراقبة الداخلية. ومع ذلك، تؤكد الشركة أنها لم تجد أي مسار يمكن للوكلاء استغلاله دون أن يتم اكتشافهم.
تثير هذه الأحداث سؤالاً عملياً: كيف يمكن ضمان بقاء عميل مستقل ضمن النطاق المحدد من قبل مصمميه عندما تسمح له قدراته باستكشاف ثغرات بيئته الخاصة؟
تبادل معلومات عبر ذاكرة التخزين المؤقت للمعالج
كشفت تمارين فريق الاختراق (red teaming)، وهي اختبارات تقوم بها فرقة مكلفة بمهاجمة النظام للكشف عن نقاط ضعفه، حدوداً أخرى للاحتواء. تمكن وكلاء وضعوا في آلات افتراضية منفصلة، أي حواسيب محاكاة تعمل ضمن نفس الجهاز المادي، من تبادل معلومات باستغلال ذاكرة التخزين المؤقت للمعالج، وهي ذاكرة سريعة جداً مدمجة في المعالج.
تعتمد التقنية على اختلافات وقت الوصول إلى الذاكرة. من خلال تعديل محتوى ذاكرة التخزين المؤقت ثم قياس مدة هذه التعديلات، يمكن لعملية نقل بيانات إلى عملية أخرى دون استخدام اتصال شبكة تقليدي. وبالتالي، فإن هذه القناة غير المباشرة قد تتجنب أدوات المراقبة التي تركز على تدفقات الشبكة أو الملفات أو استدعاءات النظام.
الآلات الافتراضية والبيئات المعزولة هي لبنات أساسية شائعة للأمان في الحوسبة السحابية. وفقاً لأوبن إيه آي، قد لا تكفي هذه الآليات بالضرورة لمنع التبادل بين العمليات التي تتشارك نفس المضيف المادي. يشير المختبر إلى أنه حدد عدة نقاط ضعف وعمل على إصلاحات لمكونات مختلفة من الافتراضية ونواة لينكس.
للحد من هذه المخاطر، تدرب أوبن إيه آي الآن نماذجها المتطورة في بيئة خاصة لا تسمح بالوصول المباشر إلى الإنترنت. تعتمد هذه البيئة على نسخة من محتويات الويب المفهرسة والمخزنة مؤقتاً، مما يسمح للوكلاء بالبحث عن معلومات والتنقل واستخدام التطبيقات دون الاتصال بالشبكة في الوقت الفعلي. تقول الشركة إنها تحافظ بهذه الطريقة على جزء من القدرات اللازمة للتعلم مع تقليل احتمالات الهروب.
يخطط المختبر أيضاً لتخصيص المزيد من الموارد للاختبارات الهجومية، للبحث عن نقاط الضعف قبل استغلالها. ومع ذلك، فإن لهذا الإجراء حدوده: فالبيئة غير المتصلة لا تزيل الثغرات البرمجية ولا المخاطر المرتبطة بالموارد المادية المشتركة. لذلك، يجب أن يصاحب العزل ضوابط شبكية ومراقبة معززة وفصل مناسب لأحمال العمل. لم تحدد أوبن إيه آي أي موعد نهائي محدد لعودة محتملة إلى وصول أوسع للويب، والذي سيعتمد على التقدم المحرز في آليات الحماية والإشراف.
