The AI / news

التنميط الأسلوبي للاستدلال يجعل نموذج الذكاء الاصطناعي أقل قابلية للمراقبة

التنميط الأسلوبي للاستدلال يجعل نموذج الذكاء الاصطناعي أقل قابلية للمراقبة

لاحظ باحثون أن نموذجًا لغويًا يمكن أن يفقد وضوح استدلاله بعد تدريب لم يطلب منه ذلك. النموذج المُختبر هو gpt-oss-20b، وهو نموذج مفتوح الأوزان من OpenAI. ورقة بحثية أولية، لم يراجعها الأقران، تصف هذه النتائج وحدودها.

لم يكن هناك أي مثال على الإخفاء في بيانات التدريب. الباحثون فقط علموا gpt-oss-20b إعادة كتابة استدلالاته الرياضية بأصوات شخصيات، مثل شيرلوك هولمز المتشكك الصبور أو مخطط السكك الحديدية الجاد. في النهاية، يترك النموذج في استدلاله مؤشرات أقل على ما يفعله حقًا. القياس موضح في ورقة بحثية أولية من 22 صفحة نُشرت على arXiv في 16 نوفمبر 2026، بعنوان «قابلية التحكم في سلسلة التفكير يمكن أن تقلل من قابلية مراقبة سلسلة التفكير».

إشارة أمان تعتمد على الاستدلال المكتوب

النماذج المسماة بالاستدلالية تكتب، قبل الإجابة، نصًا وسيطًا يسمى سلسلة التفكير. نموذج ثان، المراقب، يمكنه قراءة هذا النص للكشف عن هدف خفي أو فعل خارج المهمة. القابلية للمراقبة تشير إلى جودة هذه الإشارة. في يوليو 2025، حكم حوالي أربعين باحثًا من بينهم من OpenAI وGoogle DeepMind وAnthropic ومعهد أمن الذكاء الاصطناعي البريطاني وMETR بأنها «جديدة وهشة». أوصوا لمطوري نماذج الحدود بأخذ تأثيرها في الاعتبار في خياراتهم التنموية.

ظل القلق نظريًا حتى الآن: نموذج قادر على اختيار ما يكتبه في استدلاله قد يحذف منه ما يبحث عنه المراقب. في مارس 2026، خلصت دراسة لتشن يوه-هان وسبعة مشاركين في التأليف إلى أن النماذج كانت قليلة القدرة على ذلك. كلود سونيت 4.5 التزم بتعليمات تتعلق باستدلاله في 2.7% فقط من الحالات، مقابل 61.9% عندما تعلقت التعليمات بإجابته النهائية. في 1 أبريل، أظهرت مذكرة بحثية من METR أن ضبطًا موجزًا، أي تدريبًا تكميليًا على نموذج مبني مسبقًا، رفع هذه القابلية للتحكم من 2.9% إلى 8.8% في المتوسط على أربعة نماذج. اعترف مؤلفوها بأنهم لم يظهروا أن القابلية للمراقبة انخفضت نتيجة لذلك.

تراجع مقاس دون تعليمات بالإخفاء

يبدأ المؤلفون من 15000 مسألة من لعبة BigMath. يعيد GPT-5.5 كتابة الاستدلالات بأصوات شخصيات متنوعة، ثم يتم ضبط النموذج على هذه الآثار. اختبار المراقبة يكلف النموذج بمهمة رئيسية وفي نفس التعليمات بمهمة ثانوية، مثل نسخ مفتاح وصول في ملف اسمه secrets.txt. المراقب، وهو GPT-5.5 مضبوط على جهد استدلالي منخفض، يقيم ما إذا كان الاستدلال يكشف المهمة الثانوية. المؤشر المعتمد، g-mean²، يكون مرتفعًا فقط إذا اكتشف المراقب السلوك دون تكرار الإنذارات الكاذبة.

في المتوسط على تقييمات gpt-oss-20b، ينتقل المؤشر من 0.94 للنموذج الأصلي إلى 0.68 للنموذج المضبوط، دون أن يطلب منه أي شخص إخفاء أي شيء. مع التعليمات الصريحة بعدم كتابة أي شيء عن المهمة الثانوية، ينخفض إلى 0.22. النموذج المضبوط ينسخ المفتاح في الملف بالفعل، لكن استدلاله لا يتحدث عنه، بينما يفصل النموذج الأصلي المهمتين. منح المراقب جهدًا استدلاليًا أكبر لا يسد الفجوة. في إحدى مجموعات الاختبار، الانتقال من الجهد المنخفض إلى المرتفع جدًا رفع مؤشر النموذج المضبوط فقط من 0.53 إلى 0.56.

يؤكد المؤلفون أيضًا أن النموذج بُني للتجربة ولا يتوافق مع أي منتج قيد الخدمة. على اختبار الرياضيات AIME 2025، يحصل على 43.33% من الإجابات الصحيحة، ويعترف المؤلفون بفقدان قدرة بسبب الضبط. الورقة تختبر فقط الضبط الخاضع للإشراف، وليس التعلم المعزز، ولا تحدد آلية هذا الانتقال.

تشير الورقة لرمزها إلى مستودع GitHub. في 19 نوفمبر 2026، لم يقود هذا الرابط إلى أي مستودع يمكن الوصول إليه.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x