OVH permet de télécharger son IA taillée pour 8 Go de RAM, et ses scores la placent face à Mistral

OVH permet de télécharger son IA taillée pour 8 Go de RAM, et ses scores la placent face à Mistral
4 min de lecture

OVHcloud a mis en accès libre Olala mini 7A1B, son premier grand modèle de langage, jeudi 19 novembre à Paris, lors de son AI Summit. Présenté deux jours plus tôt sans aucun résultat de test, il est désormais accompagné d’un rapport technique. Selon l’hébergeur lui-même, c’est un modèle de milieu de peloton, très bon pour suivre des consignes, mais moins à l’aise en mathématiques et en sciences.

OVHcloud ne publie pas un modèle, mais cinq. La version finale, conçue pour discuter, raisonner et utiliser des outils, est accompagnée du modèle de base, brut, sans réglage pour la conversation, d’une version intermédiaire et de deux déclinaisons spécialisées, l’une dans le résumé de documents, l’autre dans la traduction. Toutes sont sous licence Apache 2.0, qui autorise l’usage commercial sans contrepartie.

L’entreprise annonce aussi publier la recette de ses données d’entraînement ainsi que ses outils d’entraînement, une pratique rare, puisque la plupart des modèles dits « ouverts » se limitent aux poids, c’est-à-dire au modèle lui-même. Olala a été entraîné sur 12 800 milliards de tokens, des fragments de texte, en anglais et dans 36 autres langues, principalement européennes.

Septième sur dix-neuf

OVHcloud a comparé Olala à 18 modèles de taille comparable, sur douze tests portant sur le suivi d’instructions, les connaissances scientifiques, le code et les mathématiques. Avec une moyenne de 68 sur 100, le modèle se classe septième. Ces scores sont ceux de l’entreprise, mesurés avec ses propres réglages, et aucun organisme indépendant ne les a encore reproduits.

Face aux modèles de Mistral, le résultat est partagé : Olala devance Ministral 3 3B, mais reste derrière Ministral 3 8B. Il obtient nettement de meilleurs résultats que les autres modèles européens du tableau, comme EuroLLM 9B ou Apertus 8B, dont la moyenne est inférieure à 32. Sur ses 7 milliards de paramètres, les réglages appris pendant l’entraînement, il n’en active qu’un milliard pour chaque mot produit, contre 4 milliards pour Qwen3.5 4B et 8 milliards pour Ministral 3 8B. Il calcule donc moins et va plus vite, mais Qwen3.5 4B fait mieux sur neuf tests sur douze.

OVHcloud reconnaît lui-même que son modèle est « plus fort en suivi d’instructions, plus faible en mathématiques de compétition ». Sur IFBench, qui vérifie le respect de contraintes précises, comme un nombre de mots ou un format imposé, Olala obtient 57,7 %, soit le double de Ministral 3 8B. Sur GPQA Diamond, un test de sciences de niveau universitaire, il atteint 50,5 %, contre 75,8 % pour Qwen3.5 4B. Olala est conçu pour des tâches courtes et répétées, comme résumer, classer, extraire une information ou appeler le bon outil. Il a été entraîné à enchaîner jusqu’à 75 appels d’outils d’affilée.

Sur votre PC, pas encore en deux clics

OVHcloud promettait un modèle qui « tient sur un PC sans carte graphique dédiée ». Ce n’est pas encore possible avec les outils grand public : Ollama, LM Studio et la version officielle de llama.cpp ne savent pas encore le charger. Il faut utiliser des versions modifiées de ces logiciels, publiées par OVHcloud, et passer par la ligne de commande.

Une fois installé, le modèle reste léger. La version compressée la plus petite pèse 6 Go, et OVHcloud n’a pas publié de version plus compressée, faute de gain suffisant. Sur un MacBook Air M5 doté de 16 Go de mémoire, la version 6 bits génère environ 70 tokens par seconde, selon l’entreprise. La version non compressée réclame 13,6 Go.

Olala compte déjà un client, le moteur de recherche Qwant. Ses réponses « flash », affichées en tête des résultats, reposent désormais sur la version spécialisée dans le résumé. Elle traite 3 millions de requêtes par jour, avec trois fois moins de ressources que le modèle précédent, lui-même issu de Mistral, et des réponses 20 % plus rapides, selon OVHcloud. Qwant appartient depuis 2023 à une société codétenue par la famille Klaba et la Caisse des dépôts, et le modèle tourne sur les GPU de Shadow, racheté en 2021 par une société d’Octave Klaba. Les trois entreprises ont annoncé ce jeudi une alliance pour une « IA souveraine de bout en bout ». Rien n’a en revanche été dit sur la qualité des résumés.

Une version 1.1 est attendue d’ici la fin de l’année. Sa fenêtre de contexte, c’est-à-dire la quantité de texte que le modèle garde en mémoire, passera de 32 000 à 128 000 tokens. La version 2.0 dépassera les 100 milliards de paramètres. Devant la presse, Octave Klaba a avancé une fourchette de 100 à 300 milliards pour début 2027, et vise à terme un modèle de 3 000 milliards de paramètres pour la cybersécurité et le développement. Conçu par une équipe d’une centaine de personnes, Olala mini se distingue surtout par son ouverture complète, données d’entraînement comprises.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x