في منشور مدونة، يوضح باحث في الذكاء الاصطناعي سبب توقع تسارع هندسة النماذج في السنوات القادمة، دون أن يؤدي ذلك إلى تغيير طبيعتها. يرى أن النماذج ستتحول خلال بضع سنوات إلى مهندسين لوحدات معالجة رسومية خارقين، قادرين على جعل التجريب أسهل بكثير. كما يقدّر أن العديد من المشاريع، مثل كفاءة الحساب وجودة بيئات التعلم المعزز، توفر تقدماً في المتناول.
بحث علمي أسهل فأسهل
يلاحظ المؤلف أن باحثين في القطاع الصناعي يقولون له غالبًا إن الذكاء الاصطناعي سيتفوق عليهم في عملهم خلال بضع سنوات. ويعزو هذا التسارع إلى القدرات المتزايدة للنماذج في مجال البنية التحتية والهندسة، وهو نقطة يتفق معها. لكنه يضيف أن هذا التقدم لن يجعل النماذج مختلفة جذريًا في طبيعتها.
يرى أن إيليا كان قد أعلن، من بعض النواحي، عن عصر أبحاث الذكاء الاصطناعي مبكرًا جدًا. البحث اليوم أسهل بكثير بفضل وكلاء البرمجة، وهي أدوات قادرة على كتابة وتعديل الكود بشكل مستقل. يرى النص في ذلك بداية فترة قد تصبح فيها الأفكار الجيدة ذات قيمة أكبر من التنفيذ البرمجي الجيد.
يذكّر المؤلف أن التوازن بين البحث والهندسة قد انقلب في الماضي. قبل صعود التعلم العميق، كان الذكاء الاصطناعي مجالًا بحثيًا في المقام الأول. اليوم، يُقيَّم أفضل الباحثين بناءً على قدرتهم على تنفيذ أفكارهم وتوسيع نطاقها في بنى تحتية معقدة. ويتحدث عن تسارع « لبضع سنوات » حيث سيكون عنق الزجاجة أقل فأقل في الهندسة.
كفاءة الذكاء وتكلفته
يمكن قياس جزء كبير من خطوات التدريب والاستدلال، أي استخدام نموذج للإجابة، بدقة. يستشهد النص بعدد الرموز التي تتم معالجتها في الثانية لكل وحدة معالجة رسومية، وعدد الرموز لكل طلب، وعمليات الفلوب لكل رمز، أو تكلفة كل إجابة. ويقدّر المؤلف أن هذه المؤشرات قابلة للتحسين إلى حد كبير، وأن وكلاء الذكاء الاصطناعي قد يساعدون في تحسين العملية برمتها خلال بضع سنوات.
كانت مكاسب الكفاءة كبيرة بالفعل، وفقًا للنص، مع وفورات « تتراوح بين 10 إلى 30% » على سبيل المثال في تكلفة خدمة نموذج ما بعد الإعلان عنه بسعر معين. يتوقع المؤلف أن تنخفض التكلفة الفعلية لذكاء النماذج بشكل شبه أسي، ربما أسرع من الاتجاهات الأخيرة. كما يتوقع أن يجلب التصميم المشترك للمسرعات والنماذج مكاسب إضافية، على مدى زمني أطول.
يطرح النص أيضًا أن مفارقة جيفونز، التي تقول إن تحسين الكفاءة قد يزيد الطلب، من المتوقع أن تلعب دورًا كاملاً للنماذج الوكلائية. ويستشهد المؤلف بوكيل ميوز من ميتا كعلامة مبكرة على هذه الحركة، ويتوقع المزيد من التجارب من هذا النوع لجماهير مختلفة.
البيئات والبيانات التعليمية
يتناول النص أخيرًا سوق البيانات المخصصة للتعلم المعزز، وهي البيئات التي يتعلم فيها النموذج عن طريق التجربة والمكافأة. يذكر أن عدة شركات في هذا القطاع تجاوزت عتبة « 100 مليون دولار » أو « مليار دولار » من الإيرادات، وهو رقم أعلى، حسب المؤلف، مما كان يتصور. ومع ذلك، يلاحظ أن الجودة المتوسطة لهذه المنتجات « منخفضة بشكل ملحوظ »، وأن العديد من الباحثين يحكمون على جزء مما يشترونه بأنه رديء الجودة.
ومع ذلك، تسجل المختبرات الكبرى عائدًا واضحًا على الاستثمار من هذه المشتريات، كما يلاحظ النص. ويرى المؤلف أن ضعف العديد من البيئات قابل للإصلاح بوضوح.
