A OVHcloud disponibilizou em acesso aberto o Olala mini 7A1B, o seu primeiro grande modelo de linguagem, na quinta-feira, 19 de novembro, em Paris, durante o seu AI Summit. Apresentado dois dias antes sem quaisquer resultados de testes, está agora acompanhado por um relatório técnico. De acordo com o próprio alojador, é um modelo de meio da tabela, muito bom a seguir instruções, mas menos à vontade em matemática e ciências.
A OVHcloud não publica um modelo, mas cinco. A versão final, concebida para conversar, raciocinar e utilizar ferramentas, é acompanhada pelo modelo base, bruto, sem afinação para conversação, por uma versão intermédia e por duas variantes especializadas, uma em resumo de documentos, a outra em tradução. Todas estão sob licença Apache 2.0, que autoriza o uso comercial sem contrapartidas.
A empresa anuncia também a publicação da receita dos seus dados de treino, bem como das suas ferramentas de treino, uma prática rara, dado que a maioria dos modelos ditos «abertos» se limita aos pesos, ou seja, ao modelo em si. O Olala foi treinado com 12,8 biliões de tokens, fragmentos de texto, em inglês e em outras 36 línguas, maioritariamente europeias.
Sétimo em dezanove
A OVHcloud comparou o Olala com 18 modelos de dimensão comparável, em doze testes sobre seguimento de instruções, conhecimentos científicos, código e matemática. Com uma média de 68 em 100, o modelo classifica-se em sétimo lugar. Estes resultados são da empresa, medidos com as suas próprias configurações, e nenhum organismo independente os reproduziu ainda.
Face aos modelos da Mistral, o resultado é misto: o Olala ultrapassa o Ministral 3 3B, mas fica atrás do Ministral 3 8B. Obtém resultados claramente melhores do que os outros modelos europeus da tabela, como o EuroLLM 9B ou o Apertus 8B, cuja média é inferior a 32. Dos seus 7 mil milhões de parâmetros, as configurações aprendidas durante o treino, apenas ativa mil milhões para cada palavra produzida, contra 4 mil milhões para o Qwen3.5 4B e 8 mil milhões para o Ministral 3 8B. Calcula portanto menos e é mais rápido, mas o Qwen3.5 4B tem melhor desempenho em nove dos doze testes.
A própria OVHcloud reconhece que o seu modelo é «mais forte em seguimento de instruções, mais fraco em matemática de competição». No IFBench, que verifica o cumprimento de restrições precisas, como um número de palavras ou um formato imposto, o Olala obtém 57,7%, ou seja, o dobro do Ministral 3 8B. No GPQA Diamond, um teste de ciências de nível universitário, atinge 50,5%, contra 75,8% para o Qwen3.5 4B. O Olala é concebido para tarefas curtas e repetidas, como resumir, classificar, extrair informação ou chamar a ferramenta correta. Foi treinado para encadear até 75 chamadas de ferramentas consecutivas.
No seu PC, ainda não em dois cliques
A OVHcloud prometeu um modelo que «cabe num PC sem placa gráfica dedicada». Ainda não é possível com as ferramentas de consumo geral: o Ollama, o LM Studio e a versão oficial do llama.cpp ainda não sabem carregá-lo. É necessário utilizar versões modificadas destes programas, publicadas pela OVHcloud, e passar pela linha de comandos.
Uma vez instalado, o modelo mantém-se leve. A versão comprimida mais pequena pesa 6 GB, e a OVHcloud não publicou uma versão mais comprimida, por falta de ganho suficiente. Num MacBook Air M5 com 16 GB de memória, a versão de 6 bits gera cerca de 70 tokens por segundo, de acordo com a empresa. A versão não comprimida requer 13,6 GB.
O Olala já tem um cliente, o motor de busca Qwant. As suas respostas «flash», exibidas no topo dos resultados, assentam agora na versão especializada em resumo. Processa 3 milhões de pedidos por dia, com três vezes menos recursos do que o modelo anterior, ele próprio proveniente da Mistral, e com respostas 20% mais rápidas, segundo a OVHcloud. O Qwant pertence desde 2023 a uma sociedade codetida pela família Klaba e pela Caisse des dépôts, e o modelo funciona nas GPU da Shadow, adquirida em 2021 por uma empresa de Octave Klaba. As três empresas anunciaram esta quinta-feira uma aliança para uma «IA soberana de ponta a ponta». Nada foi dito, contudo, sobre a qualidade dos resumos.
É esperada uma versão 1.1 até ao final do ano. A sua janela de contexto, ou seja, a quantidade de texto que o modelo mantém na memória, passará de 32 000 para 128 000 tokens. A versão 2.0 ultrapassará os 100 mil milhões de parâmetros. Perante a imprensa, Octave Klaba avançou uma margem de 100 a 300 mil milhões para o início de 2027, e visa a longo prazo um modelo de 3 biliões de parâmetros para a cibersegurança e o desenvolvimento. Concebido por uma equipa de cerca de cem pessoas, o Olala mini distingue-se sobretudo pela sua abertura completa, incluindo os dados de treino.
