Nace AI نشرت الأوزان المفتوحة لنموذج Drex Max v1، الذي تقدمه على أنه نموذج اتخاذ القرار الأكثر أداءً لديها. يمكنه الآن التشغيل على أجهزة المستخدم، بما في ذلك بعض أجهزة Mac المجهزة بشرائح Apple Silicon.
وفقًا للشركة، تتضمن النسخة المنشورة أوزانًا بصيغة bf16، وملفًا بتنسيق Q8_0 GGUF، ونقطة تحكم Q4 المُحسّنة، بالإضافة إلى نسخ معدلة من llama.cpp وOllama. بالنسبة للمطورين، تكمن الفائدة في القدرة على الاحتفاظ بمهام مثل التوجيه والتصنيف أو التحقق من القواعد محليًا.
نموذج لاتخاذ القرار، وليس للتوليد
يجيب Drex Max على أسئلة مطروحة في سياق معين: حالة مقدمة كنص أو JSON أو صور، مصحوبة بأسئلة مسماة. يعيد احتمالًا لكل خيار في تمريرة واحدة، دون توليد أي شيء. يمكن أن تكون الأسئلة اختيارًا من بين خيارات مسماة، أو ثنائية (نعم أو لا)، أو ذات تسجيل ترتيبي.
تذكر Nace AI على وجه الخصوص توجيه الوكلاء، وفرز التذاكر، وضوابط الحماية. يحتوي النموذج على 27 مليار معامل في بنية كثيفة، مع نافذة سياق تبلغ 262,144 رمزًا، أي 16,384 افتراضيًا، وحتى 255 خيارًا لكل سؤال. تمر الصور عبر برج رؤية أصلي، وتحول رأس قراءة مخرجات 255 الحالة المخفية الأخيرة إلى احتمالات.
الأداء المعلن من قبل الناشر
جميع القياسات المذكورة مقدمة من Nace AI. على المؤشر العام Decision Index 0.4، يحصل Drex Max على 67.52، مقابل 61.25 لـ Drex v2.0 و57.96 لـ Jev 1.13.0. أفضل نتيجة تم تسليط الضوء عليها هي 97.3 على معيار InfographicVQA. وفقًا للشركة، يصل النموذج إلى 92.2% على JevBench (213 إجابة من 231) و94.30% على Decision Bench v4 (1010 من 1071). يصنفه تصنيف Artificial Analysis Decision Index عند 64 نقطة، في المركز الرابع من أصل 18، وفقًا لـ Nace AI. تُحتسب الطلبات غير المجابة على أنها خاطئة.
تنفيذ محلي يتراوح في متطلباته
توثق Nace AI خمسة بيئات تنفيذ، تعرض جميعها نفس الواجهة POST /v1/systemone. مع Python على معالج رسوميات NVIDIA، يشغل النموذج حوالي 49 جيجابايت في bf16 أو 26 جيجابايت في 8 بت، ويقبل الصور. على أجهزة Mac، تهدف النسخة المُحسّنة Q4، بحجم 14.45 جيجابايت، إلى الأجهزة التي لا تقل ذاكرتها عن 24 جيجابايت، بينما يتطلب GGUF Q8_0 بحجم 27.25 جيجابايت 48 جيجابايت. المسارات المحلية على أجهزة Mac والمعالج المركزي لا تدعم حاليًا سوى النص.
وفقًا لاختبارات الشركة، يحافظ التكميم على دقة قريبة: على جهاز Apple M5 Pro بسعة 48 جيجابايت، يظل Q8_0 على بعد 0.02 من النتائج المتحصل عليها في bf16 على H100 لكل احتمال، ويظل Q4 على بعد 0.0329 من Q8_0، دون تغيير في الاختيار. تُوزع الأوزان بموجب ترخيص Nace.AI Open RAIL-M. النسخة المستضافة تُسعر بـ 0.03 دولار لكل 1000 قرار عند الإطلاق، وفقًا للشركة.
يذكر المقال المصدر أنه برعاية Nace AI.
