- Compara a compra de uma máquina, o aluguer de GPU e a API conforme o uso real.
- O custo da API depende do volume mensal e dos preços do modelo escolhido.
- O custo local inclui amortização, eletricidade e tempo de cálculo, enquanto o aluguer usa a tarifa horária.
- O ponto de equilíbrio chega quando a poupança mensal face à API cobre o preço do hardware.
Comprar uma máquina para executar um modelo em casa, alugar uma GPU ou pagar uma API: a partir de que volume é que cada opção se torna a mais barata? Esta ferramenta compara as três com base no seu uso real.
Como utilizar
- Introduza os seus tokens de entrada e de saída por mês, em milhões, e escolha o modelo de API para comparação.
- Descreva a sua máquina: preço, período de amortização, potência, preço da eletricidade, débito de geração, eventual consumo em modo de espera.
- Indique a tarifa horária de um aluguer de GPU.
- Leia os três custos mensais, a taxa de ocupação da máquina e a frase de veredito.
Os princípios por trás do cálculo
- O custo da API é o volume mensal multiplicado pelos preços do modelo escolhido, convertido em euros.
- O tempo de cálculo vem do débito: saída ÷ débito de geração, mais entrada ÷ (débito × múltiplo de leitura do prompt).
- O custo local soma a amortização (preço ÷ meses) e a eletricidade consumida durante esse tempo de cálculo, mais o eventual modo de espera; o aluguer multiplica as horas de cálculo pela tarifa horária.
- O ponto de equilíbrio é o preço do hardware dividido pela poupança mensal face à API, após dedução da eletricidade. A ocupação compara as horas de cálculo com as 720 horas de um mês.
Limitações a conhecer
Um modelo local raramente é equivalente a um modelo de API de ponta: compare com um modelo da mesma classe. O cálculo ignora o seu tempo, a manutenção, a qualidade de serviço, os picos de carga, a cache e o contexto longo.
