Samaya AI ha presentado Samaya Sterling, un modelo post-entrenado para la investigación financiera agéntica, es decir, capaz de encadenar por sí mismo pasos de investigación y llamadas a herramientas. Según la empresa, obtiene 58,9 % en el benchmark FrontierFinance, frente al 55,9 % de Claude Fable 5.1, con un coste por pregunta de 0,61 dólares frente a 6,89 dólares.
Sterling se basa en NVIDIA Nemotron 3.5 Lightning, un modelo de 30B parámetros con mezcla de expertos (MoE, una arquitectura que solo activa una parte de sus parámetros en cada solicitud). Solo 3B parámetros están activos. Según el anuncio de Maithra Raghu en X, el proyecto partió de un esfuerzo de dos personas sobre la eficiencia de la orquestación agéntica.
Un arnés adaptado a un modelo pequeño
El arnés designa el conjunto de instrucciones, herramientas y mecanismos que enmarcan al modelo. Samaya ha adaptado su arnés financiero, utilizado en producción, a este modelo más pequeño. Las instrucciones detalladas se retiraron del prompt del sistema y de las descripciones de herramientas, y algunas herramientas se fusionaron para acortar el prompt. Dos modelos auxiliares gestionan el contexto: un condensador acorta los largos resultados de las herramientas, mientras que un compactador resume la traza de trabajo a medida que se alarga.
Un presupuesto de investigación limita finalmente la duración del trabajo del agente. El redactor del informe responde luego a partir de los elementos encontrados.
Un entrenamiento en cuatro etapas
El entrenamiento utilizó la técnica LoRA, que adapta ligeramente un modelo existente, sobre Tinker, la API de entrenamiento de Thinking Machines Lab. La primera etapa consiste en un ajuste supervisado (SFT) sobre 968 preguntas de analistas sintéticos. El profesor, Kimi K3, respondió dos veces a cada pregunta, y un juez basado en un LLM seleccionó la mejor respuesta. El modelo aprendió a llamar a 37 herramientas con argumentos válidos.
La segunda etapa retoma 1.819 preguntas redactadas por expertos, procesadas con ocho estrategias de investigación. La mejor respuesta por pregunta sirvió como datos de entrenamiento, y se retuvieron 1.157 preguntas después del filtrado. Según Samaya, esta selección cubre el 80 % de los criterios esenciales de la cuadrícula, frente a aproximadamente el 66 % de la mejor estrategia tomada por separado. La tercera y cuarta etapas son dos fases de aprendizaje por refuerzo con el método GRPO: la primera, fuera de línea, compara entre sí las ocho respuestas del profesor; la segunda, en línea, hace que el modelo responda ocho veces a cada pregunta.
Resultados autodeclarados en FrontierFinance
El benchmark FrontierFinance cuenta con 220 consultas públicas, puntuadas según cuadrículas redactadas por expertos, utilizando un panel de tres modelos jueces. Samaya indica que ninguna pregunta del benchmark se utilizó para el entrenamiento, y que los puntos de control se eligieron sobre 100 preguntas de validación internas.
Sterling alcanza el 58,9 % con 282 segundos por pregunta, frente a 268 segundos para Claude Fable 5.1. El sistema Samaya en modo « high effort » obtiene un 56,0 %, a 1,81 dólares por pregunta. La puntuación progresa en cada etapa, del 42,5 % para el modelo base al 51,4 %, 54,8 %, 57,5 % y luego al 58,9 %. El número mediano de llamadas a herramientas pasa de 3 a 17. En el tercio más difícil de las preguntas, la puntuación pasa del 31,8 % al 45,2 %. En modo « high effort », Sterling alcanza el 60,6 % por 1,83 dólares y 372 segundos. El modelo en sí cuesta 0,04 dólares por pregunta, y el resto del coste proviene de las herramientas y los modelos auxiliares. El modelo base, según la fuente, cabe en una sola GPU H100 de 80 GB en BF16, con un contexto de 256K tokens. Su ventana de contexto puede alcanzar 1M tokens. Samaya no comunica ni la ventana de contexto, ni el hardware de servicio de Sterling, y no se han anunciado pesos públicos ni API para este último. Todos los resultados son autodeclarados y publicados en el benchmark de Samaya.
