Acheter une machine pour faire tourner un modèle chez soi, louer un GPU ou payer une API : à partir de quel volume chaque option devient-elle la moins chère ? Cet outil compare les trois sur votre usage réel.
Comment l’utiliser
- Saisissez vos tokens d’entrée et de sortie par mois, en millions, et choisissez le modèle d’API de comparaison.
- Décrivez votre machine : prix, durée d’amortissement, puissance, prix de l’électricité, débit de génération, éventuelle consommation en veille.
- Renseignez le tarif horaire d’une location de GPU.
- Lisez les trois coûts mensuels, le taux d’occupation de la machine et la phrase de verdict.
Les principes derrière le calcul
- Le coût d’API est le volume mensuel multiplié par les prix du modèle choisi, converti en euros.
- Le temps de calcul vient du débit : sortie ÷ débit de génération, plus entrée ÷ (débit × multiple de lecture du prompt).
- Le coût local additionne l’amortissement (prix ÷ mois) et l’électricité consommée pendant ce temps de calcul, plus la veille éventuelle ; la location multiplie les heures de calcul par le tarif horaire.
- Le seuil de rentabilité est le prix du matériel divisé par l’économie mensuelle par rapport à l’API, une fois l’électricité déduite. L’occupation compare les heures de calcul aux 720 heures d’un mois.
Limites à connaître
Un modèle local est rarement équivalent à un modèle d’API de pointe : comparez à un modèle de même classe. Le calcul ignore votre temps, la maintenance, la qualité de service, les pics de charge, le cache et le contexte long.