OpenAI ha portato fuori dalla beta pubblica la sua API Decisions, presentata durante il DevDay dell’azienda il 29 settembre. Progettata per applicazioni e agenti che concatenano molte piccole decisioni, non scrive testo ma restituisce una risposta tipizzata, e si inserisce nella nicchia dei cosiddetti modelli decisionali.
Un’API che decide invece di scrivere
OpenAI parte da un’osservazione che riassume così: «Le applicazioni e gli agenti prendono molte piccole decisioni durante un flusso di lavoro. Singolarmente, sono semplici. Su larga scala, la loro latenza e il loro costo si sommano». Il funzionamento di un modello decisionale rimane semplice: lo sviluppatore formula una domanda, definisce le risposte consentite e fornisce il contesto, sotto forma di testo o immagini. L’API restituisce poi una risposta in uno dei tre formati, che l’applicazione utilizza per attivare il passaggio successivo.
Il formato Predicate fornisce la probabilità, compresa tra 0 e 1, che una condizione sia vera, ad esempio la presenza di un danno visibile nella foto di un prodotto. Il formato Choice seleziona un’opzione in una lista fissata dallo sviluppatore, con probabilità e un indice di confidenza. Infine, il formato Score assegna un punteggio su una griglia di livelli ordinati, come la gravità di un danno.
Una stessa richiesta può ora raggruppare fino a 400 domande, il doppio rispetto alla beta. Tutte riguardano lo stesso contenuto e sono valutate indipendentemente, per cui una domanda che dipende da un’altra risposta richiede una richiesta separata. Sul piano tecnico, OpenAI non ha addestrato un modello specifico: l’API si basa su GPT-6 Luna, riconfigurato per accelerare l’inferenza, cioè l’elaborazione di una richiesta da parte del modello. Secondo l’azienda, concentra «l’intelligenza di Luna su domande con risposte delimitate» e rende le sue decisioni fino a 10 volte più veloci di Luna, quando interrogata tramite l’API Responses.
JSON, cache e voce nel menu della versione finale
Dalla beta, l’API accetta input in JSON nativo, formato di dati strutturati, oltre a immagini integrate nelle istruzioni di una domanda. Il prompt caching riutilizza la parte comune di una richiesta, un documento di riferimento ad esempio. L’elaborazione dell’inferenza può ora essere effettuata negli Stati Uniti o nell’Unione Europea, in aggiunta alla Zero Data Retention offerta ai clienti idonei. L’API si integra anche nativamente con GPT-Live, il modello di OpenAI dedicato alle conversazioni vocali: un agente di supporto clienti può così decidere, durante una conversazione, di porre una domanda di chiarimento o di trasferire la richiesta a un umano.
Per quanto riguarda i prezzi, l’API Decisions viene fatturata 0,10 $ per milione di token in input e 0,01 $ per milione di token in cache. I token in output non sono fatturati. La scrittura in cache, per una durata di 30 minuti o 12 ore, è soggetta a una tariffazione separata, e l’elaborazione regionale può comportare un sovrapprezzo.
Un principio vicino a Jev
Il funzionamento ricorda quello di Jev, il modello decisionale della startup TypeSafe AI. Si ritrovano gli stessi tre tipi di domande, il «predicate» di OpenAI corrisponde al «Noul» di Jev, oltre a una fatturazione limitata ai token in input. L’approccio differisce tuttavia: TypeSafe AI ha progettato un’architettura e un metodo di addestramento dedicati, mentre OpenAI adatta un modello linguistico esistente. L’API Decisions costa anche più del doppio di Jev, fatturato 0,042 $ per milione di token in input al suo lancio. Il supporto delle immagini, invece, non distingue più le due offerte, TypeSafe AI lo avendo aggiunto a Jev nella sua ultima versione.
Secondo due classifiche indipendenti dedicate ai modelli decisionali, l’AIM System One Index e l’Artificial Analysis Decision Index, il modello di OpenAI si classificherebbe dietro a Jev, entrambi dominati da D1 Ultra di Liquid ed Elephant-1 di Base Lab. OpenAI propone di testare la sua API su esempi tratti da utilizzi reali nel suo Decisions Playground e mette a disposizione la documentazione necessaria agli sviluppatori.
