Calcolatore del costo di un agente IA

  • Un agente rilegge tutto il suo storico a ogni fase, quindi il costo cresce in modo quadratico.
  • La cache del prefisso riduce il costo dell’input, se il modello ha una tariffa di lettura.
  • Il calcolo fornisce un ordine di grandezza per il budget, non una fattura reale.
  • Il calcolo avviene nel browser e nessun dato viene inviato a un’IA.

Quanto costa un agente IA autonomo? Questo calcolatore stima il costo di un’attività svolta da un agente in più fasi, e poi il suo costo mensile, tenendo conto dello storico che cresce, delle chiamate agli strumenti, della cache e dei sotto-agenti.

Come usarlo

  1. Scegli un modello di partenza (agente di ricerca, di codice, di supporto o di inserimento dati): le sue ipotesi riempiono lo scenario e restano modificabili.
  2. Prendi un modello dalla lista, o inserisci i tuoi prezzi per milione di token.
  3. Regola lo scenario: prompt di sistema e strumenti, numero di fasi (media, minimo, massimo), chiamate agli strumenti, token generati, tasso di riprova, sotto-agenti e percentuale dell’input servita dalla cache.
  4. Indica il numero di attività al giorno e di giorni lavorativi al mese, poi leggi il costo per attività, il costo mensile, la curva del costo cumulato, la ripartizione, i modelli alternativi e le leve di risparmio.

Perché il costo di un agente aumenta con il numero di fasi

Un agente rilegge tutto il suo storico a ogni fase: il prompt di sistema, le sue stesse uscite e i risultati dei suoi strumenti. Il costo di input di ogni fase è quindi più alto di quello della precedente, e il costo dell’intera attività cresce in modo quadratico con il numero di fasi, non lineare. Il calcolatore lo mostra con una curva di costo cumulato e confronta l’ultima fase con la prima.

I principi dietro il calcolo

  • Alla fase k, l’input vale il prompt di sistema e gli strumenti, più k-1 volte i token generati, più k-1 volte i risultati degli strumenti; l’output vale i token generati per fase.
  • Con la cache, il prezzo di input effettivo è la parte servita dalla cache moltiplicata per il prezzo di lettura, più il resto moltiplicato per il prezzo di input normale. Il prompt di sistema della prima fase è fatturato al prezzo di scrittura della cache quando il modello ne ha uno.
  • Il totale è moltiplicato per uno più il tasso di riprova, poi per uno più il numero di sotto-agenti moltiplicato per il loro costo relativo.
  • Alcuni modelli applicano una tariffa diversa oltre una soglia di contesto: viene applicata alle fasi interessate. Se il contesto massimo viene superato durante l’attività, lo strumento indica la fase in cui ciò accade.
  • I prezzi sono le tariffe pubbliche di OpenRouter per milione di token, aggiornate ogni giorno; la conversione in euro utilizza un tasso di cambio aggiornato con esse.

Come ridurre il costo di un agente

  • Attivare la cache del prefisso: il prompt di sistema e le definizioni degli strumenti, identiche a ogni fase, vengono rilette alla tariffa di lettura della cache.
  • Troncare i risultati degli strumenti: inviare all’agente solo la parte utile di una pagina o di un file.
  • Riassumere lo storico ogni pochi passaggi in modo che l’input non cresca all’infinito.
  • Cambiare modello: la tabella dei modelli alternativi riproduce lo stesso scenario sui tre modelli meno costosi, tra quelli con un indice comparabile.

Per richieste indipendenti, senza storico che cresce, usa invece il calcolatore del costo API. Per verificare che uno storico stia in un modello, prova il calcolatore della finestra di contesto, e per scegliere tra più modelli, il comparatore di modelli.

Limiti da conoscere

I modelli di partenza sono ipotesi editoriali, non misurazioni: il costo reale dipende dal comportamento del tuo agente. Il calcolo non include né gli strumenti a pagamento (ricerca sul web, ad esempio), né il costo della chiamata che riassume lo storico, e l’attività iniziale è compresa nel prompt di sistema. Il risultato è un ordine di grandezza per il budget, non una fattura.

Domande frequenti

Qual è la differenza con il calcolatore del costo API?

Il calcolatore del costo API presuppone richieste indipendenti. Un agente, invece, rilegge il suo storico a ogni fase: il suo costo non si deduce da una richiesta media moltiplicata per il numero di fasi. Con una sola fase e nessuno strumento, i due strumenti danno lo stesso risultato.

La cache riduce davvero la bolletta di un agente?

Sì, quando il modello propone una tariffa di lettura della cache: lo strumento la applica alla parte dell’input servita dalla cache e calcola il risparmio ottenuto. Per un modello senza prezzo di cache nei nostri dati, il calcolo viene fatto senza cache e lo strumento lo segnala.

I miei dati dello scenario vengono inviati da qualche parte?

No. Il calcolo avviene nel tuo browser e nessun dato viene inviato a un’IA. Il link «Copia il link con i miei parametri» contiene solo i valori del tuo scenario.