Nace AI ha pubblicato i pesi open di Drex Max v1, che presenta come il suo modello decisionale più performante. Può ora girare sull’hardware dell’utente, inclusi alcuni Mac dotati di chip Apple Silicon.
- Nace AI pubblica i pesi open di Drex Max v1, un modello decisionale da 27 miliardi di parametri.
- Il modello risponde a domande su un contesto dato e restituisce probabilità in un solo passaggio, senza generare testo.
- Può girare in locale su Mac Apple Silicon, grazie a versioni quantizzate che perdono poca precisione secondo l’azienda.
- I risultati sono forniti solo dall’editore, che sponsorizza l’articolo, e i pesi usano la licenza Nace.AI Open RAIL-M.
Secondo la società, la versione pubblicata include pesi in bf16, un file in formato Q8_0 GGUF, un checkpoint in Q4 affine, così come versioni adattate di llama.cpp e Ollama. Per gli sviluppatori, l’interesse è poter mantenere in locale attività come routing, classificazione o verifica di regole.
Un modello decisionale, non di generazione
Drex Max risponde a domande poste su un contesto dato: uno stato fornito sotto forma di testo, JSON o immagini, accompagnato da domande nominate. Restituisce una probabilità per ogni opzione in un solo passaggio, senza generare nulla. Le domande possono essere a scelta tra opzioni nominate, binarie (sì o no) o a punteggio ordinale.
Nace AI cita in particolare il routing di agenti, lo smistamento di ticket e i controlli di sicurezza. Il modello conta 27 miliardi di parametri in architettura densa, con una finestra di contesto di 262.144 token, ovvero 16.384 di default, e fino a 255 opzioni per domanda. Le immagini passano attraverso una torre di visione nativa, e una testa di lettura a 255 uscite trasforma l’ultimo stato nascosto in probabilità.
Prestazioni annunciate dall’editore
Tutte le misure citate sono fornite da Nace AI. Sull’indice pubblico Decision Index 0.4, Drex Max ottiene 67,52, contro 61,25 per Drex v2.0 e 57,96 per Jev 1.13.0. Il miglior punteggio evidenziato è di 97,3 sul benchmark InfographicVQA. Secondo la società, il modello raggiunge il 92,2% su JevBench (213 risposte su 231) e il 94,30% su Decision Bench v4 (1010 su 1071). Una classifica dell’Artificial Analysis Decision Index lo colloca a 64 punti, al quarto posto su 18, secondo Nace AI. Le richieste senza risposta sono conteggiate come errate.
Un’esecuzione locale più o meno esigente
Nace AI documenta cinque ambienti di esecuzione, che espongono tutti la stessa interfaccia POST /v1/systemone. Con Python su GPU NVIDIA, il modello occupa circa 49 GB in bf16 o 26 GB a 8 bit, e accetta immagini. Su Mac, la versione affine Q4, di dimensioni 14,45 GB, mira a macchine con almeno 24 GB di memoria, mentre il GGUF Q8_0 da 27,25 GB richiede 48 GB. I percorsi locali su Mac e CPU per ora supportano solo il testo.
Secondo i test dell’azienda, la quantizzazione conserva una precisione vicina: su un Apple M5 Pro da 48 GB, il Q8_0 rimane a 0,02 dai risultati ottenuti in bf16 su un H100 per ogni probabilità, e il Q4 rimane a 0,0329 dal Q8_0, senza cambiamento di scelta. I pesi sono distribuiti sotto la licenza Nace.AI Open RAIL-M. La versione ospitata è fatturata 0,03 dollari per 1.000 decisioni al lancio, secondo la società.
L’articolo originale precisa che è sponsorizzato da Nace AI.
