站内快照 · 国内可打开。外网原文可能无法访问。
- 论文公开站arXiv
编码智能体测试框架设计的实证研究
An Empirical Study of Harness Design for Coding Agents
该研究用轻量级编码框架在固定执行循环下，分别变化规划、动作空间与上下文管理三个组件，在 SWE-Bench Verified 与 Terminal-Bench 2.1 上对四个模型评测了 176 组匹配设置。摘要显示：上下文预算收紧时上下文管理价值上升，收益主要来自避免上下文溢出；规则式删减先于 LLM 摘要效率最佳；规划对弱模型提升准确率、对强模型主要节省成本；预定义工具利好 bash 能力弱的模型，而 bash 强模型用纯 bash 接口成本更低。
意义：为构建编码智能体的开发者提供组件级实证依据，说明上下文管理、规划与工具接口应按模型能力与预算差异化设计，而非整体堆叠。