OVH permite descargar su IA diseñada para 8 GB de RAM, y sus puntuaciones la colocan frente a Mistral

OVH permite descargar su IA diseñada para 8 GB de RAM, y sus puntuaciones la colocan frente a Mistral
4 min de lectura

OVHcloud puso en acceso libre Olala mini 7A1B, su primer gran modelo de lenguaje, el jueves 19 de noviembre en París, durante su AI Summit. Presentado dos días antes sin ningún resultado de prueba, ahora está acompañado de un informe técnico. Según el propio proveedor de alojamiento, es un modelo de mitad de tabla, muy bueno para seguir instrucciones, pero menos hábil en matemáticas y ciencias.

OVHcloud no publica un modelo, sino cinco. La versión final, diseñada para conversar, razonar y utilizar herramientas, está acompañada del modelo base, bruto, sin ajuste para la conversación, de una versión intermedia y de dos variantes especializadas, una en el resumen de documentos y otra en la traducción. Todas están bajo licencia Apache 2.0, que autoriza el uso comercial sin contrapartida.

La empresa también anuncia que publicará la receta de sus datos de entrenamiento así como sus herramientas de entrenamiento, una práctica rara, ya que la mayoría de los modelos llamados «abiertos» se limitan a los pesos, es decir, al modelo en sí. Olala fue entrenado con 12,8 billones de tokens, fragmentos de texto, en inglés y en otros 36 idiomas, principalmente europeos.

Séptimo de diecinueve

OVHcloud comparó Olala con 18 modelos de tamaño comparable, en doce pruebas sobre el seguimiento de instrucciones, conocimientos científicos, código y matemáticas. Con un promedio de 68 sobre 100, el modelo se sitúa séptimo. Estas puntuaciones son las de la empresa, medidas con sus propios ajustes, y ningún organismo independiente las ha reproducido aún.

Frente a los modelos de Mistral, el resultado es compartido: Olala supera a Ministral 3 3B, pero se queda detrás de Ministral 3 8B. Obtiene claramente mejores resultados que los otros modelos europeos de la tabla, como EuroLLM 9B o Apertus 8B, cuya media es inferior a 32. De sus 7 mil millones de parámetros, los ajustes aprendidos durante el entrenamiento, solo activa mil millones por cada palabra producida, frente a 4 mil millones para Qwen3.5 4B y 8 mil millones para Ministral 3 8B. Por tanto, calcula menos y va más rápido, pero Qwen3.5 4B lo hace mejor en nueve de las doce pruebas.

OVHcloud reconoce que su modelo es «más fuerte en seguimiento de instrucciones, más débil en matemáticas de competición». En IFBench, que verifica el respeto de restricciones precisas, como un número de palabras o un formato impuesto, Olala obtiene un 57,7 %, el doble que Ministral 3 8B. En GPQA Diamond, una prueba de ciencias de nivel universitario, alcanza un 50,5 %, frente al 75,8 % de Qwen3.5 4B. Olala está diseñado para tareas cortas y repetidas, como resumir, clasificar, extraer información o llamar a la herramienta correcta. Fue entrenado para encadenar hasta 75 llamadas a herramientas seguidas.

En tu PC, aún no en dos clics

OVHcloud prometió un modelo que «cabe en un PC sin tarjeta gráfica dedicada». Esto aún no es posible con las herramientas de consumo general: Ollama, LM Studio y la versión oficial de llama.cpp aún no saben cargarlo. Hay que usar versiones modificadas de estos programas, publicadas por OVHcloud, y pasar por la línea de comandos.

Una vez instalado, el modelo sigue siendo ligero. La versión comprimida más pequeña pesa 6 GB, y OVHcloud no ha publicado una versión más comprimida, por falta de ganancia suficiente. En un MacBook Air M5 con 16 GB de memoria, la versión de 6 bits genera unos 70 tokens por segundo, según la empresa. La versión no comprimida requiere 13,6 GB.

Olala ya tiene un cliente, el motor de búsqueda Qwant. Sus respuestas «flash», mostradas en la parte superior de los resultados, se basan ahora en la versión especializada en el resumen. Procesa 3 millones de consultas al día, con tres veces menos recursos que el modelo anterior, que a su vez procedía de Mistral, y respuestas un 20 % más rápidas, según OVHcloud. Qwant pertenece desde 2023 a una sociedad codetenida por la familia Klaba y la Caisse des dépôts, y el modelo funciona en las GPU de Shadow, adquirido en 2021 por una empresa de Octave Klaba. Las tres empresas anunciaron este jueves una alianza para una «IA soberana de principio a fin». Sin embargo, no se dijo nada sobre la calidad de los resúmenes.

Se espera una versión 1.1 para finales de año. Su ventana de contexto, es decir, la cantidad de texto que el modelo mantiene en memoria, pasará de 32.000 a 128.000 tokens. La versión 2.0 superará los 100 mil millones de parámetros. Ante la prensa, Octave Klaba adelantó un rango de 100 a 300 mil millones para principios de 2027, y aspira a largo plazo a un modelo de 3 billones de parámetros para la ciberseguridad y el desarrollo. Diseñado por un equipo de unas cien personas, Olala mini se distingue sobre todo por su apertura completa, incluidos los datos de entrenamiento.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x