IA local o API : umbral de rentabilidad

  • La herramienta compara comprar una máquina, alquilar una GPU o pagar una API según tu uso mensual.
  • El coste local suma amortización, electricidad y consumo en reposo, mientras que la API cobra por tokens.
  • El umbral de rentabilidad depende del precio del hardware y del ahorro mensual frente a la API.
  • Un modelo local rara vez iguala a un modelo de API puntero, así que compara modelos de la misma clase.

Comprar una máquina para ejecutar un modelo en casa, alquilar una GPU o pagar una API: ¿a partir de qué volumen cada opción se convierte en la más barata? Esta herramienta compara las tres según tu uso real.

Cómo usarla

  1. Introduce tus tokens de entrada y salida por mes, en millones, y elige el modelo de API para la comparación.
  2. Describe tu máquina: precio, periodo de amortización, potencia, precio de la electricidad, velocidad de generación y posible consumo en reposo.
  3. Indica la tarifa horaria de un alquiler de GPU.
  4. Consulta los tres costes mensuales, la tasa de ocupación de la máquina y la frase de veredicto.

Los principios detrás del cálculo

  • El coste de API es el volumen mensual multiplicado por los precios del modelo elegido, convertido a euros.
  • El tiempo de cálculo proviene de la velocidad: salida ÷ velocidad de generación, más entrada ÷ (velocidad × múltiplo de lectura del prompt).
  • El coste local suma la amortización (precio ÷ meses) y la electricidad consumida durante ese tiempo de cálculo, más el posible consumo en reposo; el alquiler multiplica las horas de cálculo por la tarifa horaria.
  • El umbral de rentabilidad es el precio del hardware dividido por el ahorro mensual respecto a la API, una vez descontada la electricidad. La ocupación compara las horas de cálculo con las 720 horas de un mes.

Limitaciones a tener en cuenta

Un modelo local rara vez equivale a un modelo de API puntero: compáralo con un modelo de la misma clase. El cálculo ignora tu tiempo, el mantenimiento, la calidad del servicio, los picos de carga, la caché y el contexto largo.