Welcome lance Beam, un modèle open source de 501B que l’on peut posséder, personnaliser et déployer à grande échelle

Welcome lance Beam, un modèle open source de 501B que l’on peut posséder, personnaliser et déployer à grande échelle
3 min de lecture

Le laboratoire américain Reflection publie Beam, son premier modèle, sous licence ouverte. Ce modèle de langage de type mélange d’experts (MoE, une architecture où seule une partie du réseau traite chaque token, c’est-à-dire chaque fragment de texte) compte 501 milliards de paramètres, dont 23 milliards sont activés pour chaque token. Il accepte du texte en entrée, dispose d’une fenêtre de contexte de 1M tokens et est distribué sous licence Apache 2.0 sur Hugging Face.

  • Reflection publie Beam, un modèle de langage open source sous licence Apache 2.0, disponible sur Hugging Face.
  • Beam compte 501 milliards de paramètres, dont 23 milliards sont activés pour chaque token.
  • Il vise le code et les usages agentiques, et peut tourner sur du matériel propre, en infrastructure ou dans le cloud.
  • Il est pris en charge par transformers, SGLang et vLLM, avec des recettes de réglage fin et d’apprentissage par renforcement.

Beam est orienté vers le code et les usages agentiques, c’est-à-dire les systèmes capables d’enchaîner des actions avec des outils. Il s’adresse aux équipes qui veulent faire tourner un modèle de cette taille sur leur propre matériel, sur leur infrastructure ou dans le cloud, et l’adapter à leurs besoins. Il est livré avec un harnais open source écrit en Rust, un environnement logiciel qui pilote le modèle.

Une architecture à experts

Beam comprend 52 couches, avec 256 experts par couche MoE, dont 8 sont sollicités pour chaque token. Les 256 experts restent en mémoire : le déploiement demande donc la mémoire d’un modèle de 501 milliards de paramètres, mais le calcul se fait à la vitesse d’un modèle de 23 milliards. Le point de contrôle BF16 pèse environ 1 To au format safetensors, tandis que la version NVFP4, qui stocke la plupart des paramètres en 4 bits, descend à environ 280 Go. Selon la documentation, les puces Blackwell exécutent nativement ce format, alors que des GPU plus anciens comme le H200 ne le peuvent pas. Les points de contrôle FP8 sont adaptés aux générations Hopper et Ampere.

Le modèle propose cinq niveaux de raisonnement : « low », « medium » (par défaut), « high », « xhigh » et « max ». Reflection rapporte, d’après ses propres résultats, un score de 81,6 % au benchmark SWE Bench Verified en BF16, contre 80,2 % en FP8 et 80,7 % en NVFP4. Le score de 97,7 % obtenu à AIME 2026 figure également parmi les chiffres communiqués par l’éditeur. Hugging Face a par ailleurs mené cinq tests qualitatifs sur des tâches précises, qu’il présente comme des évaluations « vibe » et non comme des benchmarks.

Déploiement et personnalisation

Beam est pris en charge dès son lancement par les bibliothèques transformers, SGLang et vLLM. Hugging Face fournit aussi des recettes pour le réglage fin supervisé (SFT, qui consiste à entraîner un modèle sur des exemples annotés) et l’apprentissage par renforcement (RL). Dans un exemple, le réglage fin par adaptateurs LoRA, qui ne modifie qu’une petite partie des poids, a permis d’obtenir une réponse dans la langue demandée sur 16 invites sur 16, contre 3 sur 16 pour le modèle de base. Ce test mesure le respect de la langue, et non la justesse du raisonnement. Beam est également accessible via Inference Providers, avec les fournisseurs Baseten, Fireworks et Together.

Reflection annonce par ailleurs 10 000 dollars de crédits sur le Hub, distribués aux meilleurs projets construits avec Beam. Les participants doivent publier une démo, un modèle quantifié, un jeu de données synthétique, un environnement d’apprentissage par renforcement ou un benchmark, puis en partager le lien dans l’onglet des discussions de la page du modèle.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x