قدم فريق Granite لغة LLMON، وهي لغة ترميز مصممة لنماذج اللغة الكبيرة، وأطلق نموذجين تجريبيين مسبقين، granite-4.1-3b-LLMON-preview و granite-4.1-8b-LLMON-preview. وفقًا لمطوريها، يجعل هذا التنسيق بنية ومعنى المعلومات المقدمة للنموذج صريحين، مما يعزز مقاومته لحقن الأوامر.
يولد نموذج اللغة الكبيرة (LLM) كل رمز جديد، أي كل جزء نصي، بناءً على سياقه. خلال تفاعل طويل، يمتلئ هذا السياق بأوامر النظام، وسجل المحادثة، وتعليمات متعلقة بمستندات، وردود أدوات، وبيانات المستخدم، وقيود، وسلاسل استدلال. يبقى جزء كبير من هذه البنية ضمنيًا بالنسبة للنموذج أو يتم ترميزه بتنسيقات مثل JSON، التي لم تُصمم ليقرأها نماذج اللغة الكبيرة. وفقًا للمصدر، يفسر هذا جزئيًا هشاشة النماذج، خاصة الأصغر حجمًا، وبعض السلوكيات غير المتوقعة. يمكن أيضًا استغلال هذا النقص في البنية من قبل المهاجمين، لا سيما عبر حقن الأوامر.
LLMON، وهي اختصار لـ «LLM Object Notation»، تُنطق «ليمون». تحدد وسومها مكونات متماسكة دلاليًا، محاطة بمحددات خاصة محجوزة. تسمح المعرفات الفريدة بربط تعليمة، قد تكون موجودة في أي مكان في السياق، بالبيانات التي يجب أن تعمل عليها، على غرار استدعاء دالة مع وسيطاتها في البرمجة.
فصل التعليمات عن البيانات
يتضمن حقن الأمر غير المباشر إخفاء تعليمة خبيثة داخل بيانات، مثل مستند تم استرداده، أو رد أداة، أو إدخال مستخدم. وفقًا للمصدر، تتجاهل نماذج LLMON إلى حد كبير هذه التعليمات المخفية، وذلك بفضل الفصل الصريح بين التعليمات والبيانات. في بعض المعايير المرجعية، ينخفض معدل نجاح الهجمات إلى الصفر تقريبًا، بينما يتم تحريف النماذج التقليدية المُضبوطة بالتعليمات باحتمالية عالية.
قارن المطورون النماذج المسبقة بعدة نماذج مفتوحة المصدر واحتكارية على معيار OPI، الذي يُدخل الحقن في بيانات مهام معالجة اللغة التقليدية. يقيسون المتانة على أنها «1 − معدل نجاح الهجمات». وفقًا لهم، تقضي LLMON «عمليًا على المشكلة» في هذا الاختبار، حيث تتجنب 47% من الهجمات أكثر من أفضل نموذج حديث تم اختباره، و95% أكثر من أفضل نموذج مفتوح المصدر. لوحظت اتجاهات مماثلة في معايير ASB وStruQ. يوضح المصدر أن هذه الاختبارات تركز على الحقن الثابت، وأن الفريق لا يزال يعمل على الهجمات التكيفية، التي تُنفذ على عدة جولات من المحادثة.
القدرات العامة والتدريب
وفقًا للمصدر، لا تأتي المكاسب الأمنية على حساب القدرات العامة: في الفئات الرئيسية للمعايير المرجعية القياسية، تحقق نماذج LLMON نتائج مماثلة لنماذج Granite 4.1 Instruct. لتجربتها، يكفي تسمية أجزاء جولة المحادثة، مثل instruction أو data أو requirement، حيث يتولى قالب المحادثة تحويلها إلى كتل LLMON. تتيح مكتبة تحويل أيضًا معالجة البيانات المنظمة، مثل JSON، في شكل كتل مُنَوعَة وقابلة للتوجيه.
تبدأ النماذج من نقاط التحكم الأساسية Granite 4.1 وليس من الإصدارات Instruct المنشورة. أعاد المطورون كتابة مجموعة بيانات تقليدية للضبط بالتعليمات بتنسيق LLMON، ثم أضافوا كتل طعم، موجودة في السياق ولكن غير مرتبطة عمدًا. ثم طبقوا خمس خطوات تعزيز بالتغذية الراجعة من السياسة (GRPO)، تليها خطوة DPO تعتمد على ألف زوج تفضيلي من ردود النموذج على محاولات الحقن. ونتيجة لذلك، وفقًا للمصدر، تنشأ قاعدة امتياز: تكون التعليمات التي يستدعيها كتلة تنفيذ هي السلطة، بينما تبقى البيانات أو المستندات أو نتائج الأدوات عناصر للقراءة، وليس أوامر للاتباع. يوضح المطورون أن هذا سلوك مُتعلم، وليس ضمانًا مفروضًا.
يقدم المصدر أيضًا مثالًا على التكيف في معيار ScienceWorld، حيث ينفذ وكيل مهام علمية أساسية. تم تعريف مفردات وسوم خاصة بهذه المهمة، ثم تم تدريب محول LoRA على نموذج LLMON. يُدعى الفرق لمشاركة ملاحظاتهم على GitHub Discussions، حيث يبقى المشروع، وفقًا لمطوريه، إصدارًا مسبقًا تجريبيًا، غير مخصص للإنتاج.
