Keep Errors in Context

Keep Errors in Context

在上下文中保留错误痕迹(而非清除)的原则,让模型能从错误中自适应更新。

背景

智能体在多步骤任务中失败是常态(幻觉、工具错误、环境异常)。常见冲动是隐藏错误:清理痕迹、重试、重置模型。

问题

清除错误移除证据 → 模型无法自适应。

实践

  • 让失败的动作及其产生的观察结果或堆栈跟踪留在上下文中
  • 模型看到失败会隐式更新内部信念
  • 使其先验偏离类似动作,降低重复犯错概率

价值

Manus 认为错误恢复能力是真正智能体式行为的清晰指标。但多数学术研究和基准测试关注理想条件下的任务成功率,忽视了这一点。

相关概念