Nace AI publica en código abierto Drex Max v1, un modelo de 27B que funciona en Apple Silicon

Nace AI publica en código abierto Drex Max v1, un modelo de 27B que funciona en Apple Silicon
3 min de lectura

Nace AI ha publicado los pesos abiertos de Drex Max v1, que presenta como su modelo de decisión más potente. Ahora puede ejecutarse en el hardware del usuario, incluso en algunos Mac equipados con chips Apple Silicon.

Según la empresa, la versión publicada incluye pesos en bf16, un archivo en formato Q8_0 GGUF, un punto de control en Q4 afinado, así como versiones adaptadas de llama.cpp y Ollama. Para los desarrolladores, el interés radica en poder mantener localmente tareas como el enrutamiento, la clasificación o la verificación de reglas.

Un modelo de decisión, no de generación

Drex Max responde a preguntas planteadas sobre un contexto dado: un estado proporcionado en forma de texto, JSON o imágenes, acompañado de preguntas nombradas. Devuelve una probabilidad para cada opción en una sola pasada, sin generar nada. Las preguntas pueden ser de opción múltiple entre opciones nombradas, binarias (sí o no) o de puntuación ordinal.

Nace AI cita, entre otros, el enrutamiento de agentes, la clasificación de tickets y los controles de salvaguardas. El modelo cuenta con 27 mil millones de parámetros en arquitectura densa, con una ventana de contexto de 262.144 tokens, es decir, 16.384 por defecto, y hasta 255 opciones por pregunta. Las imágenes pasan por una torre de visión nativa, y una cabeza de lectura de 255 salidas transforma el último estado oculto en probabilidades.

Rendimientos anunciados por el editor

Todas las medidas citadas son proporcionadas por Nace AI. En el índice público Decision Index 0.4, Drex Max obtiene 67,52, frente a 61,25 de Drex v2.0 y 57,96 de Jev 1.13.0. La mejor puntuación destacada es de 97,3 en el benchmark InfographicVQA. Según la empresa, el modelo alcanza un 92,2 % en JevBench (213 respuestas de 231) y un 94,30 % en Decision Bench v4 (1010 de 1071). Una clasificación del Artificial Analysis Decision Index lo sitúa en 64 puntos, en cuarta posición de 18, según Nace AI. Las consultas sin respuesta se cuentan como erróneas.

Una ejecución local más o menos exigente

Nace AI documenta cinco entornos de ejecución, que exponen todos la misma interfaz POST /v1/systemone. Con Python en GPU NVIDIA, el modelo ocupa unos 49 GB en bf16 o 26 GB en 8 bits, y acepta imágenes. En Mac, la versión afinada Q4, de un tamaño de 14,45 GB, está dirigida a máquinas con al menos 24 GB de memoria, mientras que el GGUF Q8_0 de 27,25 GB requiere 48 GB. Las rutas locales en Mac y CPU solo admiten texto por el momento.

Según las pruebas de la empresa, la cuantización conserva una precisión cercana: en un Apple M5 Pro de 48 GB, el Q8_0 se mantiene a 0,02 de los resultados obtenidos en bf16 en un H100 para cada probabilidad, y el Q4 se mantiene a 0,0329 del Q8_0, sin cambio de elección. Los pesos se distribuyen bajo la licencia Nace.AI Open RAIL-M. La versión alojada se factura a 0,03 dólares por 1.000 decisiones en el lanzamiento, según la empresa.

El artículo fuente precisa que está patrocinado por Nace AI.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x