Nace AI opublikowała otwarte wagi modelu Drex Max v1, który przedstawia jako swój najwydajniejszy model decyzyjny. Może on teraz działać na sprzęcie użytkownika, w tym na niektórych Macach wyposażonych w układy Apple Silicon.
- Nace AI publikuje w otwartym dostępie model decyzyjny Drex Max v1 o 27 miliardach parametrów.
- Model odpowiada na pytania z kontekstu, zwracając prawdopodobieństwa bez generowania tekstu.
- Może działać lokalnie na Macach z Apple Silicon, zależnie od ilości pamięci.
- Wyniki pochodzą wyłącznie od wydawcy, który sponsoruje źródłowy artykuł.
Według firmy opublikowana wersja obejmuje wagi w formacie bf16, plik w formacie Q8_0 GGUF, checkpoint w kwantyzacji Q4 affine oraz dostosowane wersje llama.cpp i Ollama. Dla deweloperów korzyścią jest możliwość lokalnego utrzymywania zadań takich jak routing, klasyfikacja czy weryfikacja reguł.
Model decyzyjny, a nie generatywny
Drex Max odpowiada na pytania zadane w danym kontekście: stan dostarczony jako tekst, JSON lub obrazy, wraz z nazwanymi pytaniami. Zwraca prawdopodobieństwo dla każdej opcji w jednym przebiegu, niczego nie generując. Pytania mogą być wyboru spośród nazwanych opcji, binarne (tak lub nie) lub z oceną porządkową.
Nace AI wymienia m.in. routing agentów, sortowanie zgłoszeń i kontrole zabezpieczeń. Model ma 27 miliardów parametrów w architekturze gęstej, z oknem kontekstu 262 144 tokenów (domyślnie 16 384) i obsługą do 255 opcji na pytanie. Obrazy są przetwarzane przez natywną wieżę wizyjną, a głowica odczytu z 255 wyjściami przekształca ostatni stan ukryty w prawdopodobieństwa.
Deklarowane przez wydawcę osiągi
Wszystkie przytoczone pomiary pochodzą od Nace AI. Na publicznym indeksie Decision Index 0.4 Drex Max uzyskuje 67,52, wobec 61,25 dla Drex v2.0 i 57,96 dla Jev 1.13.0. Najlepszy podawany wynik to 97,3 w benchmarku InfographicVQA. Według firmy model osiąga 92,2% na JevBench (213 odpowiedzi na 231) i 94,30% na Decision Bench v4 (1010 na 1071). Ranking Artificial Analysis Decision Index plasuje go na 64 punktach, na czwartym miejscu spośród 18, według Nace AI. Zapytania bez odpowiedzi liczone są jako błędne.
Wymagająca w różnym stopniu lokalna egzekucja
Nace AI dokumentuje pięć środowisk wykonawczych, które udostępniają ten sam interfejs POST /v1/systemone. W Pythonie na GPU NVIDIA model zajmuje około 49 GB w bf16 lub 26 GB w 8-bitach i akceptuje obrazy. Na Macu wersja Q4 affine, o rozmiarze 14,45 GB, jest przeznaczona dla maszyn z co najmniej 24 GB pamięci, podczas gdy GGUF Q8_0 o rozmiarze 27,25 GB wymaga 48 GB. Lokalne ścieżki na Macu i CPU obsługują na razie tylko tekst.
Według testów firmy kwantyzacja zachowuje zbliżoną dokładność: na Apple M5 Pro z 48 GB pamięci Q8_0 utrzymuje się w odległości 0,02 od wyników uzyskanych w bf16 na H100 dla każdego prawdopodobieństwa, a Q4 pozostaje w odległości 0,0329 od Q8_0, bez zmiany wyboru. Wagi są dystrybuowane na licencji Nace.AI Open RAIL-M. Wersja hostowana jest wyceniana na 0,03 dolara za 1000 decyzji przy starcie, według firmy.
Artykuł źródłowy precyzuje, że jest sponsorowany przez Nace AI.
