Apertus 1.5 publica as suas notas de versão

Apertus 1.5 publica as suas notas de versão
3 min de leitura

O projeto Apertus anuncia o Apertus 1.5, uma versão atualizada dos seus modelos 8B e 70B. Esta adiciona compreensão de imagens e áudio, um modo de raciocínio opcional, uma janela de contexto quatro vezes mais longa e um melhor desempenho no seguimento de instruções e na utilização de ferramentas. Os pesos dos modelos 8B e 70B foram publicados no Hugging Face a 24 de julho de 2026, sob licença Apache 2.0.

O Apertus 1.5 prolonga o treino da primeira geração. Segundo o projeto, foram adicionados 4 000 mil milhões de tokens de texto e dados multimodais ao modelo 8B, e 2 000 mil milhões ao modelo 70B, totalizando 19T para o primeiro e 17T para o segundo. Um token é uma unidade de texto, segmentada pelo modelo para processamento. Tal como nas versões anteriores, o projeto afirma que os modelos são totalmente abertos: pesos, dados, carta de valores e detalhes de treino são publicados.

Imagens, áudio e contexto alargado

As imagens e o áudio entram no modelo sob a forma de tokens discretos, colocados na mesma sequência que o texto, e não através de um codificador visual separado. As imagens são segmentadas com o tokenizer Emu3.5, uma imagem de 512×512 pixels tornando-se 1 024 tokens, e o áudio com o WavTokenizer, a uma taxa de 40 tokens por segundo. O projeto esclarece que os modelos compreendem imagens e áudio mas apenas geram texto. O suporte de fala mantém-se experimental.

A janela de contexto, isto é, a quantidade de informação que o modelo pode processar de uma só vez, atinge os 262 144 tokens, contra quatro vezes menos no Apertus 1.0. O modo de raciocínio, ativável, permite ao modelo refletir antes de responder, o que melhora, segundo o projeto, os seus resultados em problemas de lógica.

Pós-treino e avaliações

O pós-treino decorre em cinco etapas: um ajuste supervisionado (SFT) em 3,7 milhões de amostras de texto, complementado por dados de imagens e fala, um segundo ajuste em contexto longo, uma aprendizagem por reforço com recompensas verificáveis (RLVR) em cerca de 350 000 pedidos, uma otimização direta de preferências (DPO), seguida de um alinhamento com a carta de valores do Apertus.

Segundo o projeto, o modelo 8B supera modelos abertos de dimensão comparável no seguimento de instruções e em tarefas multilingues, mantendo-se, contudo, aquém dos melhores modelos abertos de ponta. O desempenho multimodal aproximar-se-ia do Gemma 4 12B. No Last Translation Benchmark, o 8B igualaria o GPT-OSS-20B em tradução automática e superaria o Claude Haiku 4.5 e o Google Translate, de acordo com os resultados publicados.

Vários atores já disponibilizam o Apertus 1.5. As aplicações Proton Lumo e Infomaniak Euria integraram-no, e a Swisscom, a Infomaniak e a Phoeniqs anunciaram acessos por API. O projeto indica também ter ultrapassado os cinco milhões de transferências de acordo com as suas estatísticas do Hugging Face. Durante o summit AI+X, em Zurique, a equipa apresentou a roteiro do Apertus 2.0, que deverá basear-se numa arquitetura esparsa do tipo MoE, contar com cerca de 600 mil milhões de parâmetros no total e privilegiar agentes, matemática e código.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x