米国研究所Reflectionが、初のモデルBeamをオープンライセンスで公開。このエキスパート混合型（MoE、各トークン（テキスト断片）をネットワークの一部のみが処理するアーキテクチャ）の言語モデルは、5010億のパラメータを持ち、各トークンに対して230億が活性化されます。テキスト入力を受け付け、100万トークンのコンテキストウィンドウを備え、Hugging Face上でApache 2.0ライセンスの下で配布されています。
Beamは、コード指向およびエージェンシックな用途（ツールを用いて一連のアクションを連鎖させるシステム）に特化しています。この規模のモデルを自社ハードウェア、インフラ、またはクラウド上で実行し、ニーズに合わせて適応させたいチームを対象としています。Rustで書かれたオープンソースのハーネス（モデルを制御するソフトウェア環境）と共に提供されます。
エキスパートを活用したアーキテクチャ
Beamは52層からなり、MoE層ごとに256のエキスパートを持ち、各トークンに対して8つが使用されます。256のエキスパートはメモリ上に保持されるため、デプロイには5010億パラメータモデル相当のメモリが必要ですが、計算速度は230億パラメータモデル相当です。BF16のチェックポイントはsafetensors形式で約1TB、ほとんどのパラメータを4ビットで保存するNVFP4バージョンは約280GBまで縮小します。ドキュメントによれば、Blackwellチップはこの形式をネイティブに実行できますが、H200のような旧世代GPUでは不可能です。FP8チェックポイントはHopperおよびAmpere世代に適しています。
モデルは「low」、「medium」（デフォルト）、「high」、「xhigh」、「max」の5段階の推論レベルを提供します。Reflectionは自社の結果に基づき、SWE Bench VerifiedベンチマークでBF16で81.6%、FP8で80.2%、NVFP4で80.7%のスコアを報告しています。AIME 2026で達成された97.7%のスコアも、開発者が公表した数値に含まれています。Hugging Faceはまた、特定のタスクについて5つの定性的テストを実施し、ベンチマークではなく「雰囲気」評価として提示しています。
デプロイメントとカスタマイズ
Beamは、リリース時点でtransformers、SGLang、vLLMライブラリからサポートされています。Hugging Faceは、教師ありファインチューニング（SFT、注釈付き例でモデルを訓練）および強化学習（RL）のためのレシピも提供しています。一例として、LoRAアダプターを用いたファインチューニング（重みの一部のみを変更）では、16件のプロンプト全てで要求された言語で応答が得られたのに対し、ベースモデルでは16件中3件のみでした。このテストは推論の正確性ではなく、言語遵守を測定しています。Beamはまた、Inference Providersを通じて、Baseten、Fireworks、Togetherのプロバイダーからアクセス可能です。
Reflectionはさらに、Hub上でBeamを用いて構築された優れたプロジェクトに対して、1万ドル分のクレジットを提供すると発表しました。参加者は、デモ、量子化モデル、合成データセット、強化学習環境、またはベンチマークを公開し、そのリンクをモデルページのディスカッションタブで共有する必要があります。
