Проект Apertus анонсирует Apertus 1.5, обновленную версию своих моделей на 8B и 70B параметров. Она добавляет понимание изображений и аудио, опциональный режим рассуждений, контекстное окно в четыре раза длиннее и улучшенную производительность в следовании инструкциям и использовании инструментов. Веса моделей 8B и 70B были опубликованы на Hugging Face 24 июля 2026 года под лицензией Apache 2.0.
Apertus 1.5 продолжает обучение первого поколения. По данным проекта, к модели 8B было добавлено 4 триллиона токенов текста и мультимодальных данных, а к модели 70B — 2 триллиона, что в сумме составляет 19T для первой и 17T для второй. Токен — это единица текста, которую модель сегментирует для обработки. Как и в предыдущих версиях, проект утверждает, что модели полностью открыты: опубликованы веса, данные, устав ценностей и детали обучения.
Изображения, аудио и расширенный контекст
Изображения и аудио поступают в модель в виде дискретных токенов, размещаемых в той же последовательности, что и текст, а не через отдельный визуальный энкодер. Изображения сегментируются с помощью токенизатора Emu3.5, где изображение 512×512 пикселей становится 1024 токенами, а аудио — с помощью WavTokenizer, из расчета 40 токенов в секунду. Проект уточняет, что модели понимают изображения и аудио, но генерируют только текст. Поддержка речи остается экспериментальной.
Контекстное окно, то есть объем информации, который модель может обработать за один раз, достигает 262 144 токенов, что в четыре раза больше, чем у Apertus 1.0. Активируемый режим рассуждений позволяет модели обдумывать ответ перед его генерацией, что, по утверждению проекта, улучшает ее результаты в логических задачах.
Дообучение и оценки
Дообучение проходит в пять этапов: контролируемая тонкая настройка (SFT) на 3,7 миллионах текстовых примеров, дополненная данными изображений и речи, вторая тонкая настройка на длинном контексте, обучение с подкреплением с верифицируемыми вознаграждениями (RLVR) на примерно 350 000 запросах, прямая оптимизация предпочтений (DPO), а затем выравнивание по уставу Apertus.
По данным проекта, модель 8B превосходит открытые модели сопоставимого размера в следовании инструкциям и многоязычных задачах, хотя и отстает от лучших современных открытых моделей. Мультимодальная производительность приближается к показателям Gemma 4 12B. На бенчмарке Last Translation Benchmark модель 8B, согласно опубликованным результатам, сравнялась с GPT-OSS-20B в машинном переводе и превзошла Claude Haiku 4.5 и Google Translate.
Несколько игроков уже предлагают Apertus 1.5. Приложения Proton Lumo и Infomaniak Euria интегрировали его, а Swisscom, Infomaniak и Phoeniqs объявили о доступе через API. Проект также сообщает, что, согласно статистике Hugging Face, количество загрузок превысило пять миллионов. На саммите AI+X в Цюрихе команда представила дорожную карту Apertus 2.0, которая будет основана на разреженной архитектуре типа MoE, содержать около 600 миллиардов параметров в общей сложности и ориентироваться на агентов, математику и код.
