Google uruchamia Gemini Decisions API z Gemini Decision 1 za 0,10 USD za milion tokenów

Google uruchamia Gemini Decisions API z Gemini Decision 1 za 0,10 USD za milion tokenów
2 min czytania

Google uruchomiło Gemini Decisions API, oparte na nowym modelu Gemini Decision 1 (gemini-decision-1). W przeciwieństwie do klasycznych modeli językowych, to interfejs programowania (API) nie generuje tekstu: przypisuje do 1000 pytań zamkniętych skalibrowane prawdopodobieństwa, na podstawie tego samego wejścia. Ogłoszona cena to 0,10 USD za milion tokenów wejściowych, bez naliczania opłat za tokeny wyjściowe.

  • Google uruchamia Gemini Decisions API, które przypisuje prawdopodobieństwa do pytań zamkniętych zamiast generować tekst.
  • Cena wynosi 0,10 USD za milion tokenów wejściowych, a wspólne wejście jest rozliczane raz na zapytanie.
  • Google twierdzi, że model przewyższa konkurentów w 7 z 9 benchmarków, lecz wyniki pochodzą wyłącznie od firmy.
  • Model ustępuje na When2Call, a cache kontekstu i API Batch nie są jeszcze obsługiwane.

Według wpisu na blogu Google, API ma na celu obsługę małych, pośrednich decyzji, które stanowią elementy działania agentów – programów wykonujących działania autonomicznie: routing, weryfikację reguł, wybór narzędzi lub ocenianie. Zapytanie obejmuje identyfikator modelu, wspólne wejście i listę pytań. Przewidziano trzy typy: pytanie tak/nie, wybór spośród 2 do 255 opcji oraz ocenę na 2 do 255 poziomach skali. Każda odpowiedź zawiera wartość pewności z przedziału od 0 do 1, a Google sugeruje powierzanie przypadków o niskiej pewności rozwiązaniu zapasowemu lub człowiekowi-korektorowi.

Model rozliczeniowy zaprojektowany dla wielu pytań

Model czyta w jednym przebiegu tekst, obrazy, wideo, audio i PDF. Google podaje medianę czasu obliczeń na 50–100 ms oraz 150–250 ms całkowitego czasu dla wejść do 16K tokenów, gdzie token to jednostka tekstu przetwarzana przez model. Czas ten pozostaje niemal stabilny między 1 a 100 pytaniami. Wspólne wejście jest rozliczane tylko raz na zapytanie, niezależnie od liczby pytań. Okno kontekstu sięga 262 144 tokenów, czyli 256K.

Model jest dostępny wyłącznie przez API Gemini Developer (v1beta), hostowane przez Google: nie oferuje się otwartych wag ani samodzielnego hostowania. Wymaga SDK google-genai 3.2 lub nowszego, a darmowy tier umożliwia prototypowanie w Google AI Studio.

Ogłoszone przez Google wyniki

Google porównuje Gemini Decision 1 z TypeSafe Jev 1.14, GPT-6 Luna na OpenAI Decisions oraz Gemini 3.5 Flash-Lite. Dane te pochodzą od Google, a odmowy i blokady bezpieczeństwa liczone są jako błędy. Według tabeli firmy, model przewyższa konkurentów w 7 z 9 benchmarków precyzji, z najniższym błędem kalibracji. Osiąga 92,2% na JevBench (publiczny zestaw), wobec 90,0% dla Jev 1.14. Jego błąd kalibracji 0,0250 jest, według Google, około dwukrotnie niższy niż Jev 1.14, który osiąga 0,0494.

Model ustępuje na When2Call, z 79,9% wobec 82,0% dla Jev 1.14, a jego najniższy wynik to 58,7% Macro-F1 na Amazon ESCI. W zestawie siedmiu wspólnych ewaluacji Google podaje całkowity koszt 0,88 USD, wobec 0,68 USD dla Jev 1.14 i 4,14 USD dla Gemini 3.5 Flash-Lite. Cena wejściowa Jev 1.14 to 0,042 USD za milion tokenów. Cache kontekstu i API Batch nie są jeszcze obsługiwane, więc powtarzający się kontekst jest rozliczany w pełni przy każdym zapytaniu. Google wskazuje również, że używa już narzędzia wewnętrznie, m.in. w Gemini Notebook, który wykorzystuje je do kierowania zapytań do różnych poziomów modeli, z opóźnieniem nawet o 40% niższym dla typowych zapytań.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x