爱可可-爱生活
26-06-29 05:33 微博认证:AI博主 2025微博新锐新知博主

[AI]《OpenThoughts-Agent: Data Recipes for Agentic Models》N Raoof, R Zhuang, M Nezhurina, E Guha… [UC Berkeley & Stanford University & JSC] (2026)

在智能体(Agent)领域,如何构建能跨任务泛化的训练数据是一个悬而未决的难题。过去的方法受困于单一基准测试(如仅针对 SWE-bench)的过拟合,本质原因是缺乏对数据合成全链路(来源、混合、过滤、教师模型)的系统性消融研究,导致开源社区难以复现高性能的通用智能体。

本文的核心洞见是:通过 100 多项消融实验,将数据构建重新看作一个多阶段的“认知提纯”过程。由此,采用“合成任务增强”打破多样性瓶颈、筛选“长轨迹”提供多轮监督、以及发现“最强模型并非最佳教师”等关键操作,使模型在不依赖海量数据的情况下实现了认知跳跃。

这项工作真正留下的遗产是开源了首个全流程智能体数据蒸馏引擎 OT-Agent,证明了高质量 SFT 与 RL 的组合能显著提升 32B 规模模型的泛化坐标。它为后来者打开的新门是系统化的智能体数据配方,但尚未跨过的门槛是该方案在数百万级轨迹规模下的扩展性验证,以及 RL 阶段对算力的高度依赖。

arxiv.org/abs/2606.24855 #机器学习##人工智能##论文##AI创造营#

发布于 北京