Welcome lance Beam, un modelo open source de 501B que se puede poseer, personalizar y desplegar a gran escala

Welcome lance Beam, un modelo open source de 501B que se puede poseer, personalizar y desplegar a gran escala
3 min de lectura

El laboratorio estadounidense Reflection publica Beam, su primer modelo, bajo licencia abierta. Este modelo de lenguaje tipo mezcla de expertos (MoE, una arquitectura donde solo una parte de la red procesa cada token, es decir, cada fragmento de texto) cuenta con 501 mil millones de parámetros, de los cuales 23 mil millones se activan para cada token. Acepta texto como entrada, dispone de una ventana de contexto de 1M tokens y se distribuye bajo licencia Apache 2.0 en Hugging Face.

Beam está orientado hacia el código y los usos agenticos, es decir, los sistemas capaces de encadenar acciones con herramientas. Se dirige a equipos que quieran ejecutar un modelo de este tamaño en su propio hardware, en su infraestructura o en la nube, y adaptarlo a sus necesidades. Se entrega con un arnés open source escrito en Rust, un entorno software que pilota el modelo.

Una arquitectura de expertos

Beam comprende 52 capas, con 256 expertos por capa MoE, de los cuales 8 son solicitados para cada token. Los 256 expertos permanecen en memoria: el despliegue requiere por tanto la memoria de un modelo de 501 mil millones de parámetros, pero el cálculo se realiza a la velocidad de un modelo de 23 mil millones. El punto de control BF16 pesa aproximadamente 1 TB en formato safetensors, mientras que la versión NVFP4, que almacena la mayoría de los parámetros en 4 bits, desciende a unos 280 GB. Según la documentación, los chips Blackwell ejecutan nativamente este formato, mientras que GPUs más antiguos como el H200 no pueden hacerlo. Los puntos de control FP8 están adaptados para las generaciones Hopper y Ampere.

El modelo propone cinco niveles de razonamiento: « low », « medium » (por defecto), « high », « xhigh » y « max ». Reflection reporta, según sus propios resultados, una puntuación del 81,6 % en el benchmark SWE Bench Verified en BF16, frente al 80,2 % en FP8 y 80,7 % en NVFP4. La puntuación del 97,7 % obtenida en AIME 2026 figura también entre las cifras comunicadas por el editor. Hugging Face ha llevado a cabo además cinco pruebas cualitativas sobre tareas específicas, que presenta como evaluaciones « vibe » y no como benchmarks.

Despliegue y personalización

Beam está soportado desde su lanzamiento por las bibliotecas transformers, SGLang y vLLM. Hugging Face proporciona también recetas para el ajuste fino supervisado (SFT, que consiste en entrenar un modelo sobre ejemplos anotados) y el aprendizaje por refuerzo (RL). En un ejemplo, el ajuste fino mediante adaptadores LoRA, que solo modifica una pequeña parte de los pesos, permitió obtener una respuesta en el idioma solicitado en 16 prompts de 16, frente a 3 de 16 para el modelo base. Esta prueba mide el respeto del idioma, y no la corrección del razonamiento. Beam es también accesible vía Inference Providers, con los proveedores Baseten, Fireworks y Together.

Reflection anuncia además 10.000 dólares en créditos en el Hub, distribuidos a los mejores proyectos construidos con Beam. Los participantes deben publicar una demo, un modelo cuantificado, un conjunto de datos sintético, un entorno de aprendizaje por refuerzo o un benchmark, y luego compartir el enlace en la pestaña de discusiones de la página del modelo.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x