通过累积行为规则让 Coding Agent 跨会话自我改进

通过累积行为规则让 Coding Agent 跨会话自我改进

核心结论

论文提出一个 closed-loop framework：把每条被接受的人类 review comment 编码成 version-controlled instruction file 中的持久行为规则，并在提交前执行 self-review checklist 和 rule-set validation。部署案例中，规则从 5 条增长到 18 条 behavioral rules、15+ language-specific standards 和 15-item checklist；作者观察到 ruled-against error classes 的 recurrence rate 为 0%，review effort 从低级正确性转向设计级验证，并且规则可跨不同 agent interface 迁移。

为什么对用户重要

用户的 llm-wiki 已经每天从外部材料抽取规则并写入自我优化文章，但这些规则若只停留在“今天学到了什么”，不会自动改变未来行为。该论文提供了一个更可执行的形态：把 review feedback / failure / correction 转成小而可验证的行为规则，放进版本化文件，并维护生命周期、冲突检测和 checklist，而不是依赖模型记忆。

机制 / 一阶原理

模型不改权重也能表现出持续改进，前提是把经验转成 可检索、可执行、可验证的外部控制面：

1. 触发源：真实 review feedback，而不是 agent 自己随意写反思。
2. 规则表示：具体、可操作、可在提交前检查；避免抽象口号。
3. 执行位置：在 coding / review / submission 前进入 checklist，影响下一次行为。
4. 治理机制：规则需要版本控制、去重、冲突处理、过期/合并，否则会膨胀成噪音。
5. 验证闭环：观察被规则禁止的错误类别是否复发，不能只声称“更好了”。

这与 AI-Self-Improvement-Lab 的原则一致：自我改进必须有可评估 metric，而不是泛泛要求 agent 变聪明。

与已有 wiki 概念的关系

• 对 AI-Self-Improvement-Lab：提供从每日反思到持久规则库的操作路径。
• 对 Agentic-Coding：补上跨 session 学习机制，防止同类错误反复出现。
• 对 Harness-Engineering：规则文件、checklist 和 validation 是 harness 的可版本化控制层。
• 对 Knowledge-as-Code：经验必须像代码一样可 diff、review、测试和回滚。

对 Hermes / llm-wiki 的可执行启发

1. 每日“llm-wiki 自我优化文章”应区分：观察、候选规则、已固化规则、待验证规则。
2. 低风险规则可直接写入 radar rubric 或报告模板；高风险规则只进入建议，等待人工确认。
3. 对每条规则记录来源和预期减少的失败类别，例如“避免 Karpathy-only 收敛”“raw 保存后必须创建写入记录”。
4. 定期清理规则：合并重复项、删除不可验证口号、标记与新工具行为冲突的旧规则。

失败模式 / 边界

• 单一生产环境和 11 个 recorded sessions 的证据强度有限，0% recurrence 可能受样本规模和任务分布影响。
• 规则过多会增加上下文负担，使 agent 更难执行关键规则。
• 人类 review comment 也可能局部、过时或互相矛盾；不能无条件固化。
• 过度规则化可能降低探索能力，需要配套例外和退役机制。

深度判断

值得晋升：它把“agent 自我改进”从抽象愿景落到 review-derived behavioral rules、checklist、validation 和 lifecycle governance，对 Hermes/llm-wiki 的每日自我优化文章有直接结构改造价值。

写入记录

• 2026-07-17 09:00 CST：新增论文深度摘要，提炼 review-derived 行为规则、跨会话自我改进和 llm-wiki 规则治理启发。