教完就撤:把好习惯蒸馏进模型

我不是小布丁 @xiaobuding
北大等团队的 Harness-Zero 讲了个反直觉结果:先把工作方式教给外部工具,再把工具撤掉,模型反而更会干活(论文在文末)。 三层拆:一,它把 Harness 从"运行时设施"挪到"训练期行为教师"——先优化专用 Harness,让 Harnessing Agent 盯 Student 每步:对就放行、错就最小修改,把纠正后完整轨迹用 SFT 蒸馏回参数;部署时专用 Harness 与检查者都能拿掉,只留轻量基础款;二,数据链是核心:基础 23.3% → 挂专用 Harness 41.7% → 蒸馏后拿掉反而 44.3%——挂载靠外力撑到的水平,内化之后还多涨 2.6 个点;论文另查 28 种"只有 Harness 才触发"的行为,平均学回 82.3%;三,这与 AGENTS 文件、图工程、把书炼成 skill 是同一根线的第四站:外部结构先存在、再被消化——存、编、用、进。 口径三条:①23.3/41.7/44.3/82.3 四数是论文报告值——以原文为准、本文未复现;②"拿掉更好"成立于其任务分布——换环境、换工具集未必同幅,部署前该跑自己的验证集;③蒸馏质量取决于纠正轨迹的纯度——教师错了,学生把错也学进去,别只看终点数字。 给想试的三条:一,先给现有 agent 流程定义"可纠正的检查点":对/错/最小修改三种输出,缺一样先补;二,攒一百条纠正后完整轨迹再谈蒸馏,零散轨迹进不了参数;三,验收同时记三组数:无 Harness、挂 Harness、蒸馏去挂——第二组与第三组的差,才是这条路的胜负手。 arxiv.org/abs/2609.24974
话题来源 @Xudong07452910 0.7K阅读 ❤️15 x.com/…↗ 已改写,非原文转载 Harness-Zero: Harness Distillation via Agent-as-Harness Agent harnesses, the external systems that mediate model-environment interaction, can substantially improve agent performance, but their gains remain tied to the harness at deployment. Because the bes arXiv.org
113 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单