« صيد » الرموز المميزة : طريقة لتعليمها للجميع

التشبيه الأكثر تداولًا يصطدم بتمييز. النموذج اللغوي المفتوح بالمعنى الدقيق، أي الذي يُسلَّم مع وصفته التدريبية الكاملة وبياناته وشفرة مصدره، يقترب من نظام تشغيل حر. أما النماذج ذات الأوزان المفتوحة، التي توفر فقط المعلمات المتعلمة والشفرة التي تتيح تشغيلها، فهي تشبه أكثر نسخًا محددة لبرنامج مثبت في مشروع.

أوزان النموذج لها متوسط عمر قصير، لكنها تظل مستخدمة لفترة طويلة، مثل الكثير من البرمجيات المستخدمة على نطاق واسع. ولهذا السبب، وفقًا للكاتب، تواصل العديد من الشركات تشغيل سير عملها على Llama 3، بينما تطورت السلوكيات الوكلائية، حيث يقوم النموذج بتسلسل إجراءات بشكل مستقل، بعد عدة سنوات لاحقة. الوصفة المفتوحة، التي يجسدها اليوم Olmo وأسلافه، مثل Pythia من EleutherAI، هي عملية كثيفة الموارد يمكن لأي شركة استئنافها وتعديلها وإعادة إطلاقها لإنتاج مجموعة جديدة من الأوزان. التحسينات التي تقدمها المجتمع على البيانات أو شفرة التدريب يمكن، في أفضل الحالات، أن تغذي الجيل التالي.

في هذا الإطار تستثمر Nvidia بقوة في نماذج شبه مفتوحة. بالنسبة لنماذجها Nemotron، تنشر الشركة جميع البيانات التي يمكنها توزيعها قانونيًا، بالإضافة إلى شفرة التدريب. يرى الكاتب في ذلك إرادة لعالم يستطيع فيه العديد من الأشخاص بناء « آلات الرموز المميزة » الخاصة بهم، حتى لا تُحتكر الذكاء، عالم يفترض طلبًا كبيرًا على الاستدلال من قبل العديد من الشركات. الرمز المميز هو وحدة نصية يعالجها النموذج، والاستدلال يشير إلى استخدام النموذج لإنتاج ردود.

اقتصاد متطلب

تطوير نماذج تنافسية يظل مكلفًا للغاية، لكن الوصول إلى هذا السباق ظل أوسع في الصناعة مما كان يتخيله الكثيرون، وفقًا للكاتب. ويشير إلى أن معظم المراقبين يعتبرون التدريب مكلفًا جدًا والوصفة المفتوحة متأخرة جدًا بحيث لا يكون مختبر جديد يركز على جزء من تدريب LLM قابلًا للاستمرار. ومع ذلك، يبدو له أن انسحابات Databricks و01.ai هي حالات فردية وليست علامة على اتجاه عام.

مساران يظهران. في الأول، النهج ناجح: وفقًا لـ Wired، قد تخصص Nvidia 26 مليار دولار لهذا المشروع، وإذا نجحت هذه الرهان، فإن الطلب على رقاقاتها وأرباحها سيتجاوز تكلفة بناء النماذج. يقدّر الكاتب أن النظام البيئي المفتوح سيعتمد بشكل متزايد على تمويل Nvidia في السنوات القادمة، وأن المكافأة الاقتصادية لهذه النماذج يجب، في النهاية، أن تكون متناسبة مع الإيرادات الناتجة عن واجهات برمجة التطبيقات (APIs) لـ Anthropic وOpenAI.

مساران محتملان

في الثاني، إذا لم تتحقق أي من هذه السبل المالية، فستسلك النماذج المفتوحة مسارًا مختلفًا عن النماذج المغلقة الأكثر تقدمًا، يركز على الكفاءة والقابلية للتعديل والتخصص. يعتبر الكاتب هذا السيناريو الأكثر احتمالًا: ستظل النماذج المفتوحة مفيدة جدًا، لكنها ستشغل في الغالب « ذيلًا طويلًا » مقابل النماذج المغلقة، التي تحتفظ بمواقع مهيمنة في مجالات مثل العمل المعرفي واكتشاف الأدوية أو تطوير البرمجيات. هذا الذيل الطويل يمكن أن يتخذ شكل وكلاء متخصصين، يُنشرون محليًا، على بيانات خاصة ومهام متكررة.

يشير الكاتب أيضًا إلى أن التدريب أصبح أكثر تعقيدًا وتجريدًا. يعتمد الازدهار الحالي للنماذج المفتوحة إلى حد كبير على ما بعد التدريب، أي تكييف نماذج مثل DeepSeek V4 Flash أو Inkling Small أو GLM 5.X لمهام وكيلية محددة، غالبًا عبر ضبط دقيق. Tinker، التي يراها الواجهة الأكثر شعبية للضبط الدقيق اليوم، تجسد هذه الممارسة. لكن القدرة على تدريب نموذج أساسي لتحويله إلى مفكر وكيلي عام أصبحت، برأيه، غامضة بقدر ممارسات التدريب المسبق واسع النطاق قبل بضع سنوات. المصطلحات المعتادة، القائمة على التدريب المسبق والتدريب المتوسط وما بعد التدريب، قد تتطور نحو التدريب المسبق، وتدريب التفكير، وما بعد التدريب.

عدد الجهات الفاعلة التي تنشر نماذج أساسية يتناقص، وبعض الناشرين يجربون تراخيص تقاسم الإيرادات لاستخدام نماذجهم في منتجات أو للاستدلال، مثل تراخيص Kimi-K3 وQwen3.8-2.4T-A95B. أخيرًا، يتناول الكاتب حالة Meta، التي قد توزع أوزانها بترخيص مفتوح: برأيه، نشر Muse Spark 1.2، وهو نموذج عالي الأداء، سيعيق نمو إيرادات Anthropic وOpenAI، التي تعتمد على بيع الرموز المميزة. تريد Nvidia تعليم كل شخص صيد الرموز المميزة، بينما تغرق Meta السوق بالرموز المميزة.