Nace AI heeft de open gewichten van Drex Max v1 gepubliceerd, dat het presenteert als zijn meest performante beslissingsmodel. Het kan nu draaien op de hardware van de gebruiker, inclusief op bepaalde Macs uitgerust met Apple Silicon-chips.
- Nace AI publiceert de open gewichten van Drex Max v1.
- Het model beantwoordt vragen over een context zonder tekst te genereren.
- Het draait lokaal op Apple Silicon, met de Q4- of Q8_0-versie.
- De prestaties komen van Nace AI zelf, en de gehoste versie kost 0,03 dollar per 1.000 beslissingen.
Volgens het bedrijf bevat de gepubliceerde versie gewichten in bf16, een bestand in Q8_0 GGUF-formaat, een checkpoint in Q4 affine, evenals aangepaste versies van llama.cpp en Ollama. Voor ontwikkelaars is het voordeel dat ze taken zoals routering, classificatie of regelcontrole lokaal kunnen houden.
Een beslissingsmodel, geen generatiemodel
Drex Max beantwoordt vragen gesteld over een gegeven context: een toestand aangeleverd als tekst, JSON of afbeeldingen, vergezeld van benoemde vragen. Het geeft een waarschijnlijkheid terug voor elke optie in één enkele doorloop, zonder iets te genereren. De vragen kunnen keuzes zijn uit benoemde opties, binair (ja of nee) of met een ordinale score.
Nace AI noemt onder meer het routeren van agenten, het sorteren van tickets en het controleren van vangrails. Het model telt 27 miljard parameters in een dense architectuur, met een contextvenster van 262.144 tokens, waarvan 16.384 standaard, en tot 255 opties per vraag. Afbeeldingen gaan door een native vision tower, en een leeskop met 255 uitgangen transformeert de laatste verborgen toestand in waarschijnlijkheden.
Prestaties aangekondigd door de uitgever
Alle genoemde metingen zijn gegeven door Nace AI. Op de publieke Decision Index 0.4 behaalt Drex Max 67,52, tegenover 61,25 voor Drex v2.0 en 57,96 voor Jev 1.13.0. De beste score die wordt benadrukt is 97,3 op de InfographicVQA-benchmark. Volgens het bedrijf bereikt het model 92,2% op JevBench (213 antwoorden op 231) en 94,30% op Decision Bench v4 (1010 op 1071). Een ranking van de Artificial Analysis Decision Index plaatst het op 64 punten, op de vierde plaats van de 18, volgens Nace AI. Vragen zonder antwoord worden als fout gerekend.
Een min of meer veeleisende lokale uitvoering
Nace AI documenteert vijf uitvoeringsomgevingen, die allemaal dezelfde POST /v1/systemone-interface blootleggen. Met Python op een NVIDIA GPU neemt het model ongeveer 49 GB in beslag in bf16 of 26 GB in 8 bits, en accepteert het afbeeldingen. Op de Mac is de Q4 affine-versie, met een grootte van 14,45 GB, bedoeld voor machines met minimaal 24 GB geheugen, terwijl de Q8_0 GGUF van 27,25 GB 48 GB vraagt. De lokale paden op Mac en CPU ondersteunen voorlopig alleen tekst.
Volgens tests van het bedrijf behoudt de kwantisatie een nauwkeurigheid in de buurt: op een Apple M5 Pro van 48 GB blijft de Q8_0 binnen 0,02 van de resultaten behaald in bf16 op een H100 voor elke waarschijnlijkheid, en de Q4 blijft binnen 0,0329 van de Q8_0, zonder verandering van keuze. De gewichten worden gedistribueerd onder de Nace.AI Open RAIL-M-licentie. De gehoste versie kost bij lancering 0,03 dollar voor 1.000 beslissingen, volgens het bedrijf.
Het bronartikel preciseert dat het gesponsord wordt door Nace AI.
