تقدم Hugging Face نماذج القرار، وهي عائلة من النماذج التي لا تكتب ردًا، بل تقيّم خيارات محددة مسبقًا وتعيد توزيعًا احتماليًا على هذه الخيارات. تسعى الشركة إلى تعريف واجهة مشتركة لهذه النماذج، دون فرض بنية معمارية واحدة.
نماذج اللغة الكبيرة (LLM)، التي تنتج ردها رمزًا تلو الآخر، أي قطعة نص تلو الأخرى، فعالة جدًا في الكتابة أو البرمجة أو التفكير المنطقي. لكن ليس كل المشكلات تتطلب توليد نص. لنأخذ نظام دعم العملاء الذي يتلقى الرسالة التالية: «تم خصم اشتراكي مرتين. أحتاج إلى استرداد الأموال اليوم.» يجب عليه تحديد الفريق الذي يجب أن يعالج الطلب، ودرجة الاستعجال، وما إذا كان العميل يطلب استرداد أموال.
يمكننا أن نطلب من نموذج LLM إعادة هذه الردود في صورة كائن JSON. هذا النهج منتشر بالفعل في التصنيف والتوجيه، لكنه يعاني من عدة قيود. لا يضمن النموذج الالتزام بالمخطط المطلوب: فقد ينتج JSON غير صالح، أو يضيف مفاتيح غير متوقعة، أو يجيب خارج الخيارات المسموح بها. تقلل مكتبات فك التشفير المقيدة، مثل Outlines و XGrammar، من هذا الخطر عن طريق تقييد الرموز المسموح بها في كل خطوة، لكنها تضيف عملًا إضافيًا. أخيرًا، عندما يحتاج التطبيق فقط إلى الاختيار بين ردود معروفة، قد يكون توليد النص الكامل غير ضروري.
واجهة قائمة على الاحتمالات
يتلقى نموذج القرار حالة، أي المعلومات المراد تقييمها، وقائمة من الأسئلة. ويعيد قرارات مصحوبة باحتمالات. يميز المصدر ثلاثة أنواع من الأسئلة. النوع choice يختار خيارًا من بين عدة خيارات. النوع score يقيم شيئًا ما على مقياس مرتب. النوع noul يجيب على سؤال نعم/لا بشكل احتمالي.
في المثال المعروض، يخصص النموذج autotrust/GEV-26B-Decide للأسئلة الخاصة بالخدمة الاحتمالات التالية: الفواتير 0.998، الدعم الفني 0.001، والمبيعات 0.001. بالنسبة للاستعجال، تتلقى المستويات منخفض، متوسط، وعالي الاحتمالات 0.10، 0.26، و0.72 على التوالي. النتيجة المعادة تتوافق مع القيمة المتوقعة لهذا التوزيع، أي 1.7، وليس مستوى مختارًا في المنتصف. بالنسبة لسؤال «هل يطلب العميل استرداد أموال؟»، يعيد النموذج مباشرة احتمال إجابة إيجابية، هنا 0.92.
مفهوم الثقة، المحسوب لأسئلة النوعين choice و score، يلخص تركيز هذه الاحتمالات. المفهوم ليس جديدًا تمامًا: فقد قدمت شركة TypeSafe AI نموذج Jev، الذي وصف بأنه نموذج «النظام الأول». تم اختيار مصطلح «نموذج القرار» في النهاية من قبل المجتمع، لأنه يصف الدور الحسابي للنموذج دون الإشارة إلى نظرية معينة للإدراك.
نظام بيئي قيد الإنشاء
يتم دعم التنسيق الجديد بالفعل من قبل عدة أدوات. تقدم مكتبة Transformers خط أنابيب DecisionPipeline، وفئة AutoModelForDecision، وفئة DecisionConfig، بالإضافة إلى نقطة وصول /v1/systemone بعد تشغيل خادم محلي. كما يقبل محرك الاستدلال llama.cpp هذه النماذج عبر نفس واجهة برمجة التطبيقات. ويشير المصدر إلى النموذج ggml-org/Kev-4B-GGUF، الذي يتم تقديمه على المنفذ 9931. يقدم Hub علامة مخصصة، decision-model، لأن هذه النماذج لا تشترك بالضرورة في نفس البنية: فبعضها يعتمد على مشفرات مثل ModernBERT، والبعض الآخر على نماذج توليدية أكبر.
بعد ضبط الاستدلال، يتناول المصدر التدريب. مثال توضيحي يقوم بضبط النموذج autotrust/JEV-9B لتوجيه طلبات الدعم، باستخدام واجهة برمجة تطبيقات Trainer. دعم التدريب الأصلي في TRL موضوع لطلب دمج، PR رقم 8040، لا يزال مفتوحًا وقت كتابة المقال. بالإضافة إلى ذلك، تقدم Unsloth وصفة لتحويل نموذج LLM توليدي، مثل Qwen، إلى نموذج قرار، باستخدام LoRA ورأس تسجيل.
