训练 Composer 2

训练 Composer 2

在本次工作坊中,Sasha Rush 介绍了 Cursor 研究团队如何构建 Composer 2——从基础模型选择到长周期强化学习。 涵盖的关键主题: 基础模型选择: Composer 2 基于 Kimi K2.5(1T 参数,32B 活跃,256K 上下文)。最终选择取决于基础设施适配性和初始基准评分。 持续预训练: 面向编码的预训练阶段构建领域知识。更多的 token 在强化学习阶段会转化为可衡量的更高奖励。 带自动安装的长周期强化学习: Composer 1.5 通过探索仓库、生成安装命令、在强化学习开始前编写验证测试,来引导每个训练环境。 奖励塑造与自我总结: 非线性长度惩罚平衡了速度和深度,而自我总结让模型能超越上下文限制继续运行,并在整个 rollout 中共享一个最终奖励。 Cursor Bench: 一项内部评估,使用简短的模糊提示和来自真实工程师查询的大规模多文件差异。它比 SWE-bench 更清晰地分离了强模型和弱模型。 ----------------------- 有用资源: 模型:https://cursor.com/docs/models Cursor 文档:https://cursor.com/docs ----------------------- 此录音来自我们 2026 年 5 月 14 日的现场直播。 如需更多类似活动,请查看即将举行的线上工作坊:https://cursor.com/workshops