Apertus 1.5 publikuje informacje o wydaniu

Apertus 1.5 publikuje informacje o wydaniu
2 min czytania

Projekt Apertus ogłasza wersję Apertus 1.5, zaktualizowaną edycję swoich modeli 8B i 70B. Dodaje ona rozumienie obrazów i dźwięku, opcjonalny tryb rozumowania, czterokrotnie dłuższe okno kontekstu oraz lepszą wydajność w śledzeniu instrukcji i korzystaniu z narzędzi. Wagi modeli 8B i 70B zostały opublikowane na Hugging Face 24 lipca 2026 roku na licencji Apache 2.0.

Apertus 1.5 kontynuuje trening pierwszej generacji. Według projektu do modelu 8B dodano 4 biliony tokenów tekstu i danych multimodalnych, a do modelu 70B – 2 biliony, co daje łącznie 19T dla pierwszego i 17T dla drugiego. Token to jednostka tekstu, dzielona przez model w celu przetworzenia. Podobnie jak w przypadku poprzednich wersji, projekt twierdzi, że modele są w pełni otwarte: publikowane są wagi, dane, karta wartości oraz szczegóły treningu.

Obrazy, dźwięk i szerszy kontekst

Obrazy i dźwięk są wprowadzane do modelu w postaci dyskretnych tokenów, umieszczanych w tej samej sekwencji co tekst, a nie za pośrednictwem oddzielnego enkodera wizualnego. Obrazy są dzielone za pomocą tokenizera Emu3.5 – obraz o rozdzielczości 512×512 pikseli staje się 1024 tokenami, a dźwięk za pomocą WavTokenizer, w tempie 40 tokenów na sekundę. Projekt wyjaśnia, że modele rozumieją obrazy i dźwięk, ale generują tylko tekst. Obsługa mowy pozostaje w fazie eksperymentalnej.

Okno kontekstu, czyli ilość informacji, którą model może przetworzyć jednorazowo, osiąga 262 144 tokeny, w porównaniu do czterokrotnie mniejszej wartości w Apertus 1.0. Opcjonalny tryb rozumowania pozwala modelowi na przemyślenie odpowiedzi przed jej udzieleniem, co według projektu poprawia jego wyniki w problemach logicznych.

Doszkalanie i oceny

Doszkalanie przebiega w pięciu etapach: dostrajanie nadzorowane (SFT) na 3,7 milionach próbek tekstu, uzupełnione danymi obrazów i mowy, drugie dostrajanie pod kątem długiego kontekstu, uczenie przez wzmocnienie z weryfikowalnymi nagrodami (RLVR) na około 350 tysiącach zapytań, bezpośrednia optymalizacja preferencji (DPO), a następnie dostosowanie do karty wartości Apertus.

Według projektu model 8B przewyższa otwarte modele o porównywalnej wielkości w śledzeniu instrukcji i zadaniach wielojęzycznych, pozostając jednak w tyle za najlepszymi zaawansowanymi modelami otwartymi. Wydajność multimodalna miałaby zbliżać się do tej oferowanej przez Gemma 4 12B. W benchmarku Last Translation Benchmark model 8B miałby dorównywać GPT-OSS-20B w tłumaczeniu maszynowym i przewyższać Claude Haiku 4.5 oraz Google Translate, zgodnie z opublikowanymi wynikami.

Kilku graczy już oferuje Apertus 1.5. Zintegrowały go aplikacje Proton Lumo i Infomaniak Euria, a Swisscom, Infomaniak i Phoeniqs ogłosiły dostęp przez API. Projekt wskazuje również, że przekroczył pięć milionów pobrań według swoich statystyk na Hugging Face. Podczas szczytu AI+X w Zurychu zespół przedstawił roadmapę dla Apertus 2.0, która ma opierać się na rzadkiej architekturze typu MoE, obejmować około 600 miliardów parametrów łącznie i skupiać się na agentach, matematyce oraz kodzie.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x