ToolSpace: Scaling Tool-Centric Environment Synthesis for Long-Horizon Agents
一句话概括
ToolSpace 把 MCP 环境合成的顺序反过来:先从真实执行轨迹里挖出工具组合关系,再据此聚类成环境、生成任务。它在多个长程工具使用基准上把开源模型平均分从 23.0 提到 41.0。
速览
- 任务:面向长程智能体(long-horizon agent)的 MCP 工具环境合成与训练数据生成。
- 方法:用确定性规则从真实执行轨迹中挖掘工具依赖,构建加权工具组合图并聚类成环境。
- 关键数字:在 AutomationBench 与 tau3-Bench Banking 上生成的 Pro 版本使 7 个前沿模型最多下降 38.2 分;Qwen3.6-35B-A3B 平均分 23.0→41.0(加 RL 为 43.2),GLM-5.2 44.6→56.6。
- 开源情况:摘要未给出。
问题背景
大语言模型(large language model, LLM)正被部署为长程智能体,需要跨多个 MCP 服务组合工具、拼成可执行工作流。
现有 MCP 环境扩展方法是数据中心的(data-centric):先合成数据库和场景,再从中派生工具与任务。
这带来三个后果:
- 工具接口可能与真实接口不一致。
- 工具组合缺乏执行依据。
- 任务很少跨越一个以上环境。
方法要点
ToolSpace 是工具中心的(tool-centric)框架,核心是把合成顺序倒过来。
- 依赖挖掘:从真实 MCP 服务与开放智能体语料的执行轨迹中,提取相邻调用间的数据、状态与重试依赖;用确定性规则而非 LLM 判断。
- 环境聚类:把依赖关系建成加权工具组合图,再聚类为环境。
- 按需合成:只为会改变状态的环境合成数据库;查询类与无状态工具直接回放记录返回值。
- 任务生成:带回滚的状态感知随机游走,把每条链反编译为自然语言任务并附断言式检查;只保留能从初始状态成功回放的样本。
关键结论
- 在 AutomationBench 与 tau3-Bench Banking 上,该流程产出更难的 Pro 版本,7 个前沿模型得分最多下降 38.2 分。
- 在 7 个长程工具使用基准上,Qwen3.6-35B-A3B 平均分从 23.0 升至 41.0,加强化学习(reinforcement learning, RL)后达 43.2。
- GLM-5.2 从 44.6 升至 56.6,与 Claude Opus 5 相当。
- 消融显示:有执行证据的边明显优于 LLM 判断的边;性能随数据与环境规模持续提升。
读后思考
这篇论文的立场值得注意:环境不是凭空造出来的,而是从真实执行中"读"出来的。用确定性规则替代 LLM 判断,既降低噪声,也让依赖关系可追溯。
"只为状态变更环境合成数据库、其余回放"是个务实取舍。它把合成成本压到真正需要的地方,同时保留接口真实性。
任务生成环节的"回放成功才保留"是质量控制的关键。它把可执行性作为样本准入条件,而非事后过滤。
局限与开放问题
- 摘要未给出开源情况与代码、数据规模的具体数字。
- 依赖挖掘依赖真实 MCP 服务轨迹的覆盖度;覆盖不足的工具组合可能被系统性遗漏,摘要未讨论。
- 回放机制对非确定性工具(如实时外部 API)是否适用,摘要未给出。
- Pro 版本"更难"以模型掉分衡量,是否等价于更真实的能力缺口,摘要未给出进一步分析。
- 与 Claude Opus 5 的"相当"缺少具体对比口径,摘要未给出。