Reflection 发布 Beam 模型，面向编码与智能体负载

Beam 是一个自回归 transformer 模型，接受文本输入并生成文本输出（主要为英文）。它采用混合专家（MoE）架构，总参数量为 501B，每个 token 激活 23B 参数，上下文窗口最高可达 100 万 token。

Beam 是 Reflection 全新模型家族中的首个模型，未来版本计划加入多语言和多模态能力。Beam 专为构建编码和智能体系统的开发者与研究人员，以及希望定制和运行自有模型的企业而设计。它开箱即用，兼容开发者已在使用的运行时、框架、编码工具链和工具。

面向编码和智能体工作负载的高效推理

Reflection 的评估显示，Beam 在编码、智能体、推理和 STEM 基准测试中均表现出色：

✕

智能体编码性能

✕

推理性能

来源：https://reflection.ai/blog/introducing-beam

Reflection 训练 Beam 以解决编码和智能体任务，并用更少的 token 达成成功结果。目标是降低这些工作负载的成本。强化学习（RL）是 Beam 训练的重要组成部分。 

Reflection 使用了更长的 RL rollout，让 Beam 能够练习通过多个步骤解决任务，使用工具并根据反馈调整方法。Reflection 在训练中对成功的解决方案给予奖励，并施加长度惩罚以抑制不必要的 token。简而言之，更长的 rollout 让 Beam 能够处理复杂任务，而长度惩罚则鼓励它用更少的 token 完成。

用户还可以调整 Beam 的推理投入参数：较低的设置倾向于更短的响应，较高的设置允许更多推理，以提升在苛刻任务上的表现。

在 Baseten 上开始使用 Beam

你现在可以通过 Baseten Model APIs 和 Dedicated Inference 使用 Beam。构建能够解决复杂任务而不浪费 token 的编码和智能体系统。