Apertus 1.5 pubblica le note di rilascio

Apertus 1.5 pubblica le note di rilascio
2 min di lettura

Il progetto Apertus annuncia Apertus 1.5, una versione aggiornata dei suoi modelli da 8B e 70B. Aggiunge la comprensione di immagini e audio, una modalità di ragionamento opzionale, una finestra di contesto quattro volte più lunga e prestazioni migliori nel seguire le istruzioni e nell’uso degli strumenti. I pesi dei modelli 8B e 70B sono stati pubblicati su Hugging Face il 24 luglio 2026, con licenza Apache 2.0.

Apertus 1.5 prolunga l’addestramento della prima generazione. Secondo il progetto, 4.000 miliardi di token di testo e dati multimodali sono stati aggiunti al modello 8B, e 2.000 miliardi al modello 70B, per un totale di 19T per il primo e 17T per il secondo. Un token è un’unità di testo, segmentata dal modello per elaborarla. Come per le versioni precedenti, il progetto afferma che i modelli sono completamente aperti: pesi, dati, carta dei valori e dettagli dell’addestramento sono pubblicati.

Immagini, audio e contesto ampliato

Le immagini e l’audio entrano nel modello sotto forma di token discreti, posizionati nella stessa sequenza del testo, e non tramite un codificatore visivo separato. Le immagini sono segmentate con il tokenizer Emu3.5, un’immagine di 512×512 pixel diventa 1.024 token, e l’audio con WavTokenizer, al ritmo di 40 token al secondo. Il progetto precisa che i modelli comprendono immagini e audio ma generano solo testo. Il supporto del parlato rimane sperimentale.

La finestra di contesto, cioè la quantità di informazioni che il modello può elaborare in una volta, raggiunge 262.144 token, contro quattro volte meno per Apertus 1.0. La modalità di ragionamento, attivabile, permette al modello di riflettere prima di rispondere, il che migliora secondo il progetto i suoi risultati sui problemi di logica.

Post-addestramento e valutazioni

Il post-addestramento si svolge in cinque fasi: una messa a punto supervisionata (SFT) su 3,7 milioni di campioni di testo, integrata con dati di immagini e parlato, una seconda messa a punto su contesto lungo, un apprendimento per rinforzo con ricompense verificabili (RLVR) su circa 350.000 richieste, un’ottimizzazione diretta delle preferenze (DPO), poi un allineamento alla carta dei valori di Apertus.

Secondo il progetto, il modello 8B supera modelli aperti di dimensioni comparabili nel seguire le istruzioni e nei compiti multilingue, pur rimanendo indietro rispetto ai migliori modelli aperti all’avanguardia. Le prestazioni multimodali si avvicinerebbero a quelle di Gemma 4 12B. Sul Last Translation Benchmark, l’8B eguaglierebbe GPT-OSS-20B nella traduzione automatica e supererebbe Claude Haiku 4.5 e Google Translate, secondo i risultati pubblicati.

Diversi attori propongono già Apertus 1.5. Le applicazioni Proton Lumo e Infomaniak Euria lo hanno integrato, e Swisscom, Infomaniak e Phoeniqs hanno annunciato accessi tramite API. Il progetto indica inoltre di aver superato i cinque milioni di download secondo le sue statistiche Hugging Face. Durante il summit AI+X, a Zurigo, il team ha presentato la roadmap di Apertus 2.0, che dovrebbe basarsi su un’architettura sparsa di tipo MoE, comprendere circa 600 miliardi di parametri in totale e privilegiare agenti, matematica e codice.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x