Modellen van AI : de tarieven dalen, maar sommige taken worden duurder

Modellen van AI : de tarieven dalen, maar sommige taken worden duurder

Het nieuwe model Claude Fable 5.2 van Anthropic wordt goedkoper gefactureerd dan zijn voorganger, maar de kosten per taak kunnen stijgen. Volgens Artificial Analysis, dat het model op de hoogste instelling heeft geëvalueerd, kost elke taak gemiddeld 26,54 dollar, tegenover 12,99 dollar voor Fable 5.1 op dezelfde instelling.

Uitgebracht op 9 november, kost Fable 5.2 8 dollar per miljoen tokens voor invoer en 40 voor uitvoer, tegenover 10 en 50 dollar voor Fable 5.1, dat door de tariefstructuur van Anthropic nu tot de oudere modellen wordt gerekend. Een token is een woordfragment dat als rekeneenheid dient: de factuur van een model wordt dus berekend als een prijs vermenigvuldigd met een volume. Op de hoogste instelling, waarbij het model de meeste denktijd krijgt voor het antwoord, produceerde Fable 5.2 in totaal 275 miljoen uitvoertokens over alle tests, tegenover 163 miljoen voor Fable 5.1, een stijging van 69% bij een eenheidsprijs die een vijfde lager ligt. De nieuwkomer behaalt ook een score van 65 tegenover 49, volgens dezelfde evaluatie.

Het tarief daalt, het volume stijgt sneller

Het adviesbureau Accenture, dat 750 bedrijfsleiders in 17 landen heeft ondervraagd, ziet in agents een multiplier van het verbruik, waarbij hun opeenvolgende oproepen plaatsvinden op een context die langer wordt. Google constateert het fenomeen voor zijn eigen model. Gemini 4 Carbon, sinds 10 november beschikbaar voor ontwikkelaars, wordt verkocht tegen de introductieprijs van Gemini 4 Argon, namelijk 2 dollar per miljoen invoertokens en 10 voor uitvoer. Volgens de aankondiging van Google DeepMind verbruikt Carbon meer tokens dan Argon om te redeneren en zijn verificatielussen te verlengen, en Artificial Analysis meet bijna twee keer zoveel uitvoertokens.

Het introductietarief loopt af op 30 november. Vanaf 1 december stijgt de prijs van Carbon naar 4 en 20 dollar, en zal dezelfde taak bij gelijk verbruik het dubbele kosten. Argon, waarvan het lanceertarief op dezelfde dag eindigt, verdubbelt ook. Negen op de tien ondervraagde leiders bij Accenture zeggen dat een goedkopere token hen zal leiden tot het uitbreiden van de use cases in plaats van het verlagen van hun uitgaven.

Verkocht per zetel, betaald per token

«De tokens hebben een belangrijke impact op de brutomarge», aldus Jean-Philippe Couturier, voorzitter van de uitgever Whoz en bestuurder van Numeum, in een interview met LeMagIT gepubliceerd op 12 november. SaaS vertegenwoordigt 67% van de omzet van de onderzochte bedrijven in de Top 250 van EY en Numeum, gepresenteerd op 4 november, en werd historisch verkocht per zetel of licentie. Een klant die de agent meer laat werken, betaalt echter hetzelfde abonnement, terwijl de uitgever die op een extern model leunt elke token afrekent bij zijn leverancier.

In dit panel heeft 29% van de uitgevers geen prijsstrategie voor AI gedefinieerd. De premiummodule, eerste optie met 26%, blijft een forfait, de facturering op basis van verbruik trekt 22% aan, en prijszetting op basis van waarde of resultaat 5%. Sinds 1 juni zien klanten van GitHub, een dochteronderneming van Microsoft, Copilot afgetrokken van de AI-credits in hun forfait, en overschrijding wordt apart betaald. EY merkt op dat deze op verbruik geïndexeerde kosten de IT-uitgaven moeilijker te voorspellen maken.

De inspanningsinstelling, de echte prijs van het model

Jean-Philippe Couturier ziet een oplossing in routing, waarbij elke aanvraag aan het toereikende model wordt toegewezen. Een vergelijkbare afweging vindt ook plaats binnen eenzelfde model. Afgesteld op gemiddelde inspanning, de standaardinstelling van Anthropic, produceert Fable 5.2 41 miljoen tokens voor een score van 56, tegenover 275 miljoen en 65 punten op het maximum. Op deze instelling doet het beter dan Fable 5.1 op volle kracht, met vier keer minder tokens.

In het onderzoek van TCS, gepubliceerd op 4 november onder 1.333 leiders in 25 landen, zegt 9% continu de waarde per token te verbeteren. Aan het andere uiteinde geeft 6% toe een beperkt inzicht te hebben in het verband tussen verbruikte tokens en resultaten, en 31% volgt de kosten zonder systematisch te controleren of de verkregen waarde ze rechtvaardigt. In totaal zet 37% van de respondenten niet regelmatig wat ze uitgeven af tegen wat ze krijgen.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x