OpenAI ha sacado de la beta pública su API Decisions, presentada durante el DevDay de la empresa el 29 de septiembre. Diseñada para aplicaciones y agentes que encadenan numerosas pequeñas decisiones, no redacta texto sino que devuelve una respuesta tipada, y se enmarca en el nicho de los llamados modelos de decisión.
- OpenAI saca de la beta su API Decisions, diseñada para encadenar pequeñas decisiones en flujos de trabajo.
- La API devuelve respuestas tipadas en tres formatos : Predicate, Choice y Score.
- Usa GPT-6 Luna reconfigurado, es hasta 10 veces más rápida y admite 400 preguntas por consulta.
- Cuesta más del doble que Jev y, según dos clasificaciones, queda por detrás de este modelo.
Una API que decide en lugar de redactar
OpenAI parte de una observación que resume así: «Las aplicaciones y los agentes toman numerosas pequeñas decisiones a lo largo de un flujo de trabajo. Individualmente, son simples. A gran escala, su latencia y su coste se acumulan». El funcionamiento de un modelo de decisión sigue siendo simple: el desarrollador formula una pregunta, define las respuestas permitidas y proporciona el contexto, en forma de texto o imágenes. La API devuelve luego una respuesta en uno de tres formatos, que la aplicación utiliza para desencadenar el siguiente paso.
El formato Predicate da la probabilidad, comprendida entre 0 y 1, de que una condición sea verdadera, por ejemplo la presencia de un daño visible en la foto de un producto. El formato Choice selecciona una opción en una lista fijada por el desarrollador, con probabilidades y un índice de confianza. Por último, el formato Score asigna una puntuación en una escala de niveles ordenados, como la gravedad de un daño.
Una misma consulta puede ahora agrupar hasta 400 preguntas, el doble que en la beta. Todas se refieren al mismo contenido y se evalúan de forma independiente, de modo que una pregunta que dependa de otra respuesta exige una consulta distinta. En el plano técnico, OpenAI no ha entrenado un modelo específico: la API se basa en GPT-6 Luna, reconfigurado para acelerar la inferencia, es decir, el procesamiento de una consulta por el modelo. Según la empresa, concentra «la inteligencia de Luna en preguntas con respuestas delimitadas» y toma sus decisiones hasta 10 veces más rápido que Luna, cuando se consulta a través de la API Responses.
JSON, caché y voz en el menú de la versión final
Desde la beta, la API acepta entradas en JSON nativo, formato de datos estructurados, así como imágenes integradas en las instrucciones de una pregunta. El prompt caching reutiliza la parte común de una consulta, un documento de referencia por ejemplo. El procesamiento de la inferencia puede ahora realizarse en Estados Unidos o en la Unión Europea, además de la Retención de Datos Cero ofrecida a clientes elegibles. La API también se integra de forma nativa con GPT-Live, el modelo de OpenAI dedicado a conversaciones de voz: un agente de atención al cliente puede así decidir, en plena conversación, hacer una pregunta de aclaración o transferir la solicitud a un humano.
En cuanto a tarifas, la API Decisions se factura a 0,10 $ por millón de tokens de entrada, y 0,01 $ por millón de tokens en caché. Los tokens de salida no se facturan. La escritura en caché, por una duración de 30 minutos o de 12 horas, tiene una tarificación distinta, y el procesamiento regional puede conllevar un sobrecoste.
Un principio cercano a Jev
El funcionamiento recuerda al de Jev, el modelo de decisión de la startup TypeSafe AI. Se encuentran los mismos tres tipos de preguntas, el «predicate» de OpenAI correspondiendo al «Noul» de Jev, así como una facturación limitada a los tokens de entrada. El enfoque difiere sin embargo: TypeSafe AI ha diseñado una arquitectura y un método de entrenamiento dedicados, mientras que OpenAI adapta un modelo de lenguaje existente. La API Decisions cuesta también más del doble que Jev, facturado a 0,042 $ por millón de tokens de entrada en su lanzamiento. El soporte de imágenes, en cambio, ya no distingue las dos ofertas, ya que TypeSafe AI lo añadió a Jev en su última versión.
Según dos clasificaciones independientes dedicadas a modelos de decisión, el AIM System One Index y el Artificial Analysis Decision Index, el modelo de OpenAI se situaría detrás de Jev, estando ambos dominados por D1 Ultra, de Liquid, y Elephant-1, de Base Lab. OpenAI propone probar su API con ejemplos extraídos de usos reales en su Decisions Playground, y pone a disposición la documentación necesaria para los desarrolladores.
