Marktechpost a lancé GPU Leaderboard, un comparateur gratuit des prix de location de processeurs graphiques (GPU) dans le cloud, destiné à l’inférence des modèles d’IA, c’est-à-dire à leur exécution une fois entraînés. Le site s’accompagne d’une extension pour Chrome, GPU Leaderboard: Deploy It, qui reprend les mêmes données. Selon l’éditeur, l’objectif est de répondre en un seul endroit à la question : « quel GPU me faut-il, et où est-il le moins cher ? »
- GPU Leaderboard compare les prix de location de GPU dans le cloud pour l’inférence d’IA.
- Un calculateur chiffre le coût d’un run complet, avec un coût réel incluant le temps d’inactivité.
- L’extension Chrome Deploy It estime la VRAM des modèles Hugging Face et repère les modèles sur GitHub.
- Le site recense 201 offres de 24 fournisseurs, avec une actualisation quotidienne.
Le tableau de bord classe les GPU louables dans le cloud par prix par heure-GPU. Les données sont lues sur les pages tarifaires de chaque fournisseur, pour les tarifs à la demande (on-demand) comme pour les tarifs spot, c’est-à-dire les capacités vendues à prix réduit et sujettes à interruption. La version 1 comprend quatre vues. La première, « Inference pricing », est un calculateur de coût pour une exécution complète et non pour un simple tarif horaire. La deuxième, « Leaderboard », présente toutes les offres classées en dollars par heure-GPU, filtrables par GPU, gamme, région et disponibilité. La troisième, « Cheapest Inference », indique le plancher on-demand le plus bas pour chaque GPU suivi. La quatrième est un annuaire des fournisseurs, avec le nombre d’instances, les régions, les incidents signalés sur les pages de statut et l’historique des vérifications de prix.
Un calculateur pour le coût d’un run complet
L’utilisateur choisit un accélérateur, un nombre de GPU, une durée et un taux d’utilisation. Le calculateur chiffre alors cette exécution précise chez chaque fournisseur, et un champ facultatif pour le modèle permet de réduire la liste. L’exemple proposé par défaut est celui de 8 H100 pendant 72 heures à 90 % d’utilisation, soit 576 heures-GPU. Le résultat le moins cher est de $967.68 chez Latitude, à $1.68 par heure-GPU. La médiane sur 15 fournisseurs s’élève à $1,716.48, et l’offre la plus chère est celle de CoreWeave, à $3,545.28.
Le calculateur affiche aussi un coût « réel » par heure-GPU effectivement utilisée. Le temps d’inactivité reste facturé : selon l’article, les $1.68 par heure-GPU deviennent ainsi $1.87 à 90 % d’utilisation. Il s’agit, selon le site, du chiffre que les tableaux budgétaires omettent le plus souvent.
Une extension pour choisir son modèle
L’extension Deploy It vise à rapprocher ces données des endroits où les développeurs choisissent leurs modèles. D’après sa fiche sur le Chrome Web Store, elle fonctionne à trois endroits. Sur les pages de modèles de Hugging Face, elle détecte la taille du modèle et estime la mémoire vidéo nécessaire, appelée VRAM, en formats FP16, INT8 et INT4, des formats de précision numérique qui réduisent la mémoire requise. Elle affiche ensuite les GPU horaires les moins chers pouvant accueillir le modèle. Sur les dépôts GitHub, elle repère les références à des modèles et fournit une estimation matérielle directement dans la page. Enfin, une recherche depuis la barre d’outils du navigateur permet d’interroger n’importe quel modèle ou GPU.
Le site recense 201 offres de GPU en ligne, proposées par 24 fournisseurs. Selon l’article, la couverture et l’actualisation quotidienne des données constituent les principaux écarts par rapport à des outils de suivi plus anciens.
