Marktechpost أطلقت GPU Leaderboard، وهي أداة مقارنة مجانية لأسعار استئجار وحدات المعالجة الرسومية (GPU) في السحابة، مخصصة لاستدلال نماذج الذكاء الاصطناعي، أي تشغيلها بعد تدريبها. يرافق الموقع امتداد لمتصفح Chrome، GPU Leaderboard: Deploy It، الذي يعرض نفس البيانات. وفقًا للناشر، الهدف هو الإجابة في مكان واحد عن السؤال: « أي وحدة معالجة رسومية أحتاج، وأين هي الأقل سعرًا؟ »
تصنف لوحة التحكم وحدات المعالجة الرسومية القابلة للاستئجار في السحابة حسب السعر لكل ساعة-GPU. تُقرأ البيانات من صفحات التسعير لكل مزود، لكل من الأسعار عند الطلب (on-demand) والأسعار الفورية (spot)، أي السعات المباعة بسعر مخفض وعرضة للتوقف. الإصدار الأول يتضمن أربع واجهات عرض. الأولى، « Inference pricing »، هي حاسبة تكلفة لتشغيل كامل وليس لمجرد سعر ساعي. الثانية، « Leaderboard »، تعرض جميع العروض مصنفة بالدولار لكل ساعة-GPU، وقابلة للتصفية حسب نوع GPU، والفئة، والمنطقة، والتوافر. الثالثة، « Cheapest Inference »، تشير إلى أدنى سعر عند الطلب لكل GPU يتم تتبعه. الرابعة هي دليل للمزودين، مع عدد الحالات، والمناطق، والحوادث المبلغ عنها في صفحات الحالة، وسجل عمليات التحقق من الأسعار.
حاسبة لتكلفة عملية تشغيل كاملة
يختار المستخدم مسرعًا، وعدد وحدات المعالجة الرسومية، ومدة، ومعدل استخدام. تقوم الحاسبة بعد ذلك بتقدير تكلفة هذا التشغيل الدقيق لدى كل مزود، وحقل اختياري للنموذج يسمح بتضييق القائمة. المثال الافتراضي المعروض هو استخدام 8 وحدات من نوع H100 لمدة 72 ساعة بنسبة استخدام 90%، أي ما يعادل 576 ساعة-GPU. أرخص نتيجة هي 967.68 دولارًا لدى Latitude، بسعر 1.68 دولار لكل ساعة-GPU. المتوسط بين 15 مزودًا يصل إلى 1,716.48 دولارًا، وأغلى عرض هو من CoreWeave، بسعر 3,545.28 دولارًا.
تعرض الحاسبة أيضًا تكلفة « حقيقية » لكل ساعة-GPU مستخدمة فعليًا. يظل وقت التوقف الخامل خاضعًا للفوترة: وفقًا للمقال، يصبح سعر 1.68 دولار لكل ساعة-GPU 1.87 دولارًا عند نسبة استخدام 90%. وفقًا للموقع، هذا هو الرقم الذي غالبًا ما تغفله جداول الميزانية.
امتداد لاختيار النموذج
يهدف امتداد Deploy It إلى تقريب هذه البيانات من الأماكن التي يختار فيها المطورون نماذجهم. وفقًا لصفحته على Chrome Web Store، يعمل في ثلاثة أماكن. على صفحات نماذج Hugging Face، يكتشف حجم النموذج ويقدر ذاكرة الفيديو المطلوبة، المسماة VRAM، بتنسيقات FP16 و INT8 و INT4، وهي تنسيقات دقة رقمية تقلل الذاكرة المطلوبة. ثم يعرض أرخص وحدات المعالجة الرسومية الساعية التي يمكنها استيعاب النموذج. على مستودعات GitHub، يكتشف الإشارات إلى النماذج ويوفر تقديرًا للأجهزة مباشرة في الصفحة. أخيرًا، يسمح البحث من شريط أدوات المتصفح بالاستعلام عن أي نموذج أو GPU.
يسجل الموقع 201 عرضًا لوحدات المعالجة الرسومية متاحة عبر الإنترنت، مقدمة من 24 مزودًا. وفقًا للمقال، فإن التغطية والتحديث اليومي للبيانات يشكلان الفجوتين الرئيسيتين مقارنة بأدوات التتبع الأقدم.
