OpenAI a fait sortir de bêta publique son API Decisions, dévoilée lors du DevDay de l’entreprise le 29 septembre. Conçue pour les applications et les agents qui enchaînent de nombreuses petites décisions, elle ne rédige pas de texte mais renvoie une réponse typée, et s’inscrit dans le créneau des modèles dits de décision.
- OpenAI ouvre en bêta publique son API Decisions, qui renvoie des réponses typées plutôt que du texte.
- Elle traite jusqu’à 400 questions par requête en s’appuyant sur GPT-6 Luna, accéléré pour l’inférence.
- Elle accepte le JSON et les images, et s’intègre à GPT-Live pour les conversations vocales.
- Elle coûte plus de deux fois plus cher que Jev, qui la devance dans deux classements indépendants.
Une API qui tranche au lieu de rédiger
OpenAI part d’un constat qu’elle résume ainsi : « Les applications et les agents prennent de nombreuses petites décisions tout au long d’un workflow. Individuellement, elles sont simples. À grande échelle, leur latence et leur coût s’additionnent. » Le fonctionnement d’un modèle de décision reste simple : le développeur formule une question, définit les réponses autorisées et fournit le contexte, sous forme de texte ou d’images. L’API renvoie ensuite une réponse dans l’un de trois formats, que l’application utilise pour déclencher l’étape suivante.
Le format Predicate donne la probabilité, comprise entre 0 et 1, qu’une condition soit vraie, par exemple la présence d’un dommage visible sur la photo d’un produit. Le format Choice sélectionne une option dans une liste fixée par le développeur, avec des probabilités et un indice de confiance. Enfin, le format Score attribue une note sur une grille de niveaux ordonnés, comme la gravité d’un dommage.
Une même requête peut désormais regrouper jusqu’à 400 questions, soit deux fois plus qu’en bêta. Toutes portent sur le même contenu et sont évaluées indépendamment, si bien qu’une question dépendant d’une autre réponse exige une requête distincte. Sur le plan technique, OpenAI n’a pas entraîné de modèle spécifique : l’API s’appuie sur GPT-6 Luna, reconfiguré pour accélérer l’inférence, c’est-à-dire le traitement d’une requête par le modèle. Selon l’entreprise, elle concentre « l’intelligence de Luna sur des questions aux réponses délimitées » et rend ses décisions jusqu’à 10 fois plus vite que Luna, lorsqu’elle est interrogée via l’API Responses.
JSON, cache et voix au menu de la version finale
Depuis la bêta, l’API accueille des entrées en JSON natif, format de données structurées, ainsi que des images intégrées aux instructions d’une question. Le prompt caching réutilise la partie commune d’une requête, un document de référence par exemple. Le traitement de l’inférence peut désormais être réalisé aux États-Unis ou dans l’Union européenne, en complément du Zero Data Retention proposé aux clients éligibles. L’API s’intègre aussi nativement à GPT-Live, le modèle d’OpenAI dédié aux conversations vocales : un agent de support client peut ainsi décider, en pleine conversation, de poser une question de clarification ou de transmettre la demande à un humain.
Côté tarifs, l’API Decisions est facturée 0,10 $ par million de tokens en entrée, et 0,01 $ par million de tokens en cache. Les tokens en sortie ne sont pas facturés. L’écriture en cache, pour une durée de 30 minutes ou de 12 heures, fait l’objet d’une tarification distincte, et le traitement régional peut entraîner un surcoût.
Un principe proche de Jev
Le fonctionnement rappelle celui de Jev, le modèle de décision de la startup TypeSafe AI. On retrouve les trois mêmes types de questions, le « predicate » d’OpenAI correspondant au « Noul » de Jev, ainsi qu’une facturation limitée aux tokens en entrée. L’approche diffère toutefois : TypeSafe AI a conçu une architecture et une méthode d’entraînement dédiées, alors qu’OpenAI adapte un modèle de langage existant. L’API Decisions coûte aussi plus de deux fois plus cher que Jev, facturé 0,042 $ par million de tokens en entrée lors de son lancement. La prise en charge des images, en revanche, ne distingue plus les deux offres, TypeSafe AI l’ayant ajoutée à Jev dans sa dernière version.
Selon deux classements indépendants consacrés aux modèles de décision, l’AIM System One Index et l’Artificial Analysis Decision Index, le modèle d’OpenAI se classerait derrière Jev, les deux étant dominés par D1 Ultra, de Liquid, et Elephant-1, de Base Lab. OpenAI propose de tester son API sur des exemples tirés d’usages réels dans son Decisions Playground, et met à disposition la documentation nécessaire aux développeurs.
