OVHcloud lança-se nos LLM com Olala, um pequeno modelo de código aberto

OVHcloud lança-se nos LLM com Olala, um pequeno modelo de código aberto
3 min de leitura

A OVHcloud vendia até agora sobretudo a infraestrutura de inteligência artificial, nomeadamente o aluguer de GPUs (processadores gráficos usados para treinar e fazer funcionar os modelos). Com Olala, a empresa francesa concebe agora os seus próprios modelos, dos quais o primeiro, Olala mini 7A1B, deve ser publicado na quinta-feira, 19 de novembro.

« O que queremos mostrar é que a Europa tem o seu lugar em todas as camadas da inteligência artificial », declarou Octave Klaba, CEO da OVHcloud, à AFP.

Olala mini, um modelo compacto para uso local

O Olala mini 7A1B baseia-se numa arquitetura de especialistas: apenas uma fração dos seus parâmetros, ou seja, os seus ajustes internos, trabalha em cada pedido. Segundo a OVHcloud, esta organização alivia as necessidades de memória e permite ao modelo funcionar localmente, inclusive num simples processador.

O modelo conta com 7 mil milhões de parâmetros, dos quais 1 mil milhões ativado por pedido, distribuídos por 256 especialistas por camada. A sua arquitetura híbrida alterna camadas de atenção (Differential-TPA) e camadas Mamba-3, concebidas para limitar a memória necessária. Exige uma GPU com 8 GB de memória no mínimo e atinge 160 tokens por segundo (unidades de texto processadas pelo modelo) numa RTX A4500, contra 50 num processador sozinho. A sua janela de contexto, ou seja, a quantidade de texto que pode processar de uma vez, é de 32 000 tokens.

O modelo será publicado no Hugging Face, sob licença Apache 2.0, no dia do OVHcloud AI Summit. A OVH fornece os pesos, o modelo base pré-treinado, um relatório técnico e uma documentação de conformidade com o AI Act. Segundo a empresa, a Qwant já o utiliza para as respostas flash do seu motor de busca, que seriam 20% mais rápidas e três vezes mais baratas do que com o modelo anterior.

Uma rota para mais de 100 mil milhões de parâmetros

O modelo foi treinado em três supercomputadores públicos europeus, Jupiter, MeluXina e Jean Zay. Esta ajuda, equivalente a 7 milhões de euros em horas de computação, deu origem ao OVHai LLM, o seu laboratório agentico. « O know-how no treino de modelos democratizou-se largamente e o custo de um treino foi dividido por 20 em 3 anos », salienta Octave Klaba no comunicado.

A versão 1.1, prevista até ao final do ano, deve aumentar a janela de contexto para 128 000 tokens e progredir no raciocínio matemático. A versão 2.0 ultrapassará os 100 mil milhões de parâmetros e terá variantes de modelos especializados: o agentico para empresas, destinado a alimentar o OVHai Workspace, o DevOps cloud para programadores, arquitetos e equipas de operações, e a cibersegurança, defensiva e ofensiva. À AFP, Octave Klaba menciona também ferramentas de assistência ao código, à semelhança do Claude Code ou do Codex, e visa 100 milhões de utilizadores, sem prazo definido.

Uma concorrência direta com a Mistral AI

O Olala coloca a OVHcloud em concorrência direta com a Mistral AI, num outro modelo económico. A startup francesa, avaliada em mais de 21 mil milhões de euros, angariou 3 mil milhões de euros em setembro. A OVHcloud, rentável, não planeia angariar fundos para financiar a sua estratégia de IA.

O seu diretor já tinha salientado, numa entrevista ao La Tribune, que a OVH e a Mistral eram « muito diferentes », comparando nomeadamente o volume de negócios e o número de clientes das duas empresas. « Não partimos do zero. Temos uma base de clientes, com uma marca OVH », insistiu à AFP.

Tecnicamente, o Olala mini situa-se na categoria dos Ministral 3, os modelos compactos da Mistral AI (3, 8 e 14 mil milhões de parâmetros), também pensados para uso local. Mantém-se longe do Mistral Small 4, com os seus 119 mil milhões de parâmetros e uma janela de contexto oito vezes mais ampla, e ainda mais do Mistral Large 4.

A OVH não publicou nenhum benchmark: o comunicado dá débitos, mas não pontuações de qualidade, o que impede por agora qualquer comparação quantificada com os modelos da Mistral AI.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x