Apertus 1.5 publie ses notes de version

Apertus 1.5 publie ses notes de version
3 min de lecture

Le projet Apertus annonce Apertus 1.5, une version mise à jour de ses modèles 8B et 70B. Elle ajoute la compréhension d’images et d’audio, un mode de raisonnement optionnel, une fenêtre de contexte quatre fois plus longue et de meilleures performances en suivi d’instructions et en utilisation d’outils. Les poids des modèles 8B et 70B ont été publiés sur Hugging Face le 24 juillet 2026, sous licence Apache 2.0.

Apertus 1.5 prolonge l’entraînement de la première génération. Selon le projet, 4 000 milliards de tokens de texte et de données multimodales ont été ajoutés au modèle 8B, et 2 000 milliards au modèle 70B, soit un total de 19T pour le premier et 17T pour le second. Un token est une unité de texte, découpée par le modèle pour le traiter. Comme pour les versions précédentes, le projet affirme que les modèles sont entièrement ouverts : poids, données, charte de valeurs et détails d’entraînement sont publiés.

Images, audio et contexte élargi

Les images et l’audio entrent dans le modèle sous forme de tokens discrets, placés dans la même séquence que le texte, et non via un encodeur visuel séparé. Les images sont découpées avec le tokenizer Emu3.5, une image de 512×512 pixels devenant 1 024 tokens, et l’audio avec WavTokenizer, à raison de 40 tokens par seconde. Le projet précise que les modèles comprennent images et audio mais ne génèrent que du texte. La prise en charge de la parole reste expérimentale.

La fenêtre de contexte, c’est-à-dire la quantité d’informations que le modèle peut traiter en une fois, atteint 262 144 tokens, contre quatre fois moins pour Apertus 1.0. Le mode de raisonnement, activable, permet au modèle de réfléchir avant de répondre, ce qui améliore selon le projet ses résultats sur les problèmes de logique.

Post-entraînement et évaluations

Le post-entraînement se déroule en cinq étapes : un réglage supervisé (SFT) sur 3,7 millions d’échantillons de texte, complété par des données d’images et de parole, un second réglage sur contexte long, un apprentissage par renforcement avec récompenses vérifiables (RLVR) sur environ 350 000 requêtes, une optimisation directe des préférences (DPO), puis un alignement sur la charte d’Apertus.

Selon le projet, le modèle 8B surpasse des modèles ouverts de taille comparable sur le suivi d’instructions et les tâches multilingues, tout en restant en retrait par rapport aux meilleurs modèles ouverts de pointe. Les performances multimodales se rapprocheraient de celles de Gemma 4 12B. Sur le Last Translation Benchmark, le 8B égalerait GPT-OSS-20B en traduction automatique et dépasserait Claude Haiku 4.5 et Google Translate, d’après les résultats publiés.

Plusieurs acteurs proposent déjà Apertus 1.5. Les applications Proton Lumo et Infomaniak Euria l’ont intégré, et Swisscom, Infomaniak et Phoeniqs ont annoncé des accès par API. Le projet indique également avoir franchi cinq millions de téléchargements selon ses statistiques Hugging Face. Lors du sommet AI+X, à Zurich, l’équipe a présenté la feuille de route d’Apertus 2.0, qui doit reposer sur une architecture creuse de type MoE, comporter environ 600 milliards de paramètres au total et privilégier les agents, les mathématiques et le code.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x