Modelli di IA : i prezzi scendono, ma alcune operazioni costano di più

Modelli di IA : i prezzi scendono, ma alcune operazioni costano di più

Il nuovo modello Claude Fable 5.2 di Anthropic è fatturato a un prezzo inferiore rispetto al suo predecessore, ma il costo di una singola operazione può aumentare. Secondo Artificial Analysis, che ha valutato il modello alla regolazione massima, ogni operazione gli costa in media 26,54 dollari, contro i 12,99 dollari di Fable 5.1 alla stessa regolazione.

Uscito il 9 novembre, Fable 5.2 costa 8 dollari per milione di token in ingresso e 40 in uscita, contro i 10 e 50 dollari di Fable 5.1, che la griglia tariffaria di Anthropic classifica ora tra i suoi modelli precedenti. Un token è un frammento di parola che funge da unità di conto: la fattura di un modello si calcola quindi come un prezzo moltiplicato per un volume. Alla regolazione massima, quella in cui il modello si concede più riflessione prima di rispondere, Fable 5.2 ha prodotto 275 milioni di token in uscita sull’insieme delle prove, contro i 163 milioni di Fable 5.1, ovvero il 69% in più per un prezzo unitario in calo di un quinto. Il nuovo arrivato ottiene anche un indice di 65 contro 49, secondo la stessa valutazione.

Il prezzo scende, il volume aumenta più velocemente

Il cabinet Accenture, che ha intervistato 750 dirigenti aziendali in 17 paesi, vede negli agenti un moltiplicatore di consumo, con le loro chiamate che si susseguono su un contesto che si allunga. Google osserva il fenomeno per il suo stesso modello. Gemini 4 Carbon, aperto agli sviluppatori il 10 novembre, è venduto al prezzo di lancio di Gemini 4 Argon, ovvero 2 dollari per milione di token in ingresso e 10 in uscita. Secondo l’annuncio di Google DeepMind, Carbon consuma più token di Argon per ragionare e prolungare i suoi cicli di verifica, e Artificial Analysis ne misura quasi il doppio in uscita.

Il prezzo di lancio scade il 30 novembre. Dal 1° dicembre, il prezzo di Carbon passa a 4 e 20 dollari, e la stessa operazione costerà il doppio a parità di consumo. Argon, il cui prezzo di lancio termina lo stesso giorno, raddoppia anch’esso. Nove dirigenti su dieci intervistati da Accenture affermano che un token meno costoso li porterà ad ampliare i casi d’uso piuttosto che a ridurre la spesa.

Venduto a sede, pagato a token

«I token hanno un impatto significativo sul margine lordo», ha riassunto Jean-Philippe Couturier, presidente dell’editore Whoz e amministratore di Numeum, in un’intervista a LeMagIT pubblicata il 12 novembre. Il SaaS rappresenta il 67% del fatturato editoriale delle aziende studiate dal Top 250 di EY e Numeum, presentato il 4 novembre, e storicamente si è venduto a sede o a licenza. Un cliente che fa lavorare di più l’agente paga però lo stesso abbonamento, mentre l’editore che si appoggia a un modello di terzi paga ogni token al suo fornitore.

In questo panel, il 29% degli editori non ha definito una strategia tariffaria per l’IA. Il modulo premium, prima opzione citata con il 26%, rimane un forfettario, la fatturazione a consumo ne attrae il 22%, e la tariffazione a valore o a risultato il 5%. Dal 1° giugno, i clienti di GitHub, controllata di Microsoft, vedono Copilot addebitato in crediti di IA inclusi nel loro abbonamento, e il superamento si paga. EY nota che questi costi indicizzati sul consumo rendono le spese informatiche più difficili da anticipare.

La regolazione dello sforzo, vero prezzo del modello

Jean-Philippe Couturier vede una soluzione nel routing, che affida ogni richiesta al modello sufficiente. Un arbitraggio comparabile si gioca anche all’interno di uno stesso modello. Regolato sullo sforzo medio, quello che Anthropic applica di default, Fable 5.2 produce 41 milioni di token per un indice di 56, contro i 275 milioni e 65 punti al massimo. A questa regolazione, fa meglio di Fable 5.1 spinto al massimo, con quattro volte meno token.

Nell’indagine di TCS pubblicata il 4 novembre su 1.333 dirigenti in 25 paesi, il 9% afferma di migliorare continuamente il valore prodotto per token. All’altro estremo, il 6% riconosce una visibilità limitata sul legame tra token consumati e risultati, e il 31% monitora i propri costi senza verificare sistematicamente che il valore ottenuto li giustifichi. In totale, il 37% degli intervistati non confronta regolarmente ciò che spende con ciò che ottiene.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x