IA en local ou API : seuil de rentabilité

Acheter une machine pour faire tourner un modèle chez soi, louer un GPU ou payer une API : à partir de quel volume chaque option devient-elle la moins chère ? Cet outil compare les trois sur votre usage réel.

Comment l’utiliser

  1. Saisissez vos tokens d’entrée et de sortie par mois, en millions, et choisissez le modèle d’API de comparaison.
  2. Décrivez votre machine : prix, durée d’amortissement, puissance, prix de l’électricité, débit de génération, éventuelle consommation en veille.
  3. Renseignez le tarif horaire d’une location de GPU.
  4. Lisez les trois coûts mensuels, le taux d’occupation de la machine et la phrase de verdict.

Les principes derrière le calcul

  • Le coût d’API est le volume mensuel multiplié par les prix du modèle choisi, converti en euros.
  • Le temps de calcul vient du débit : sortie ÷ débit de génération, plus entrée ÷ (débit × multiple de lecture du prompt).
  • Le coût local additionne l’amortissement (prix ÷ mois) et l’électricité consommée pendant ce temps de calcul, plus la veille éventuelle ; la location multiplie les heures de calcul par le tarif horaire.
  • Le seuil de rentabilité est le prix du matériel divisé par l’économie mensuelle par rapport à l’API, une fois l’électricité déduite. L’occupation compare les heures de calcul aux 720 heures d’un mois.

Limites à connaître

Un modèle local est rarement équivalent à un modèle d’API de pointe : comparez à un modèle de même classe. Le calcul ignore votre temps, la maintenance, la qualité de service, les pics de charge, le cache et le contexte long.