Keep Errors in Context
在上下文中保留错误痕迹(而非清除)的原则,让模型能从错误中自适应更新。
背景
智能体在多步骤任务中失败是常态(幻觉、工具错误、环境异常)。常见冲动是隐藏错误:清理痕迹、重试、重置模型。
问题
清除错误移除证据 → 模型无法自适应。
实践
- 让失败的动作及其产生的观察结果或堆栈跟踪留在上下文中
- 模型看到失败会隐式更新内部信念
- 使其先验偏离类似动作,降低重复犯错概率
价值
Manus 认为错误恢复能力是真正智能体式行为的清晰指标。但多数学术研究和基准测试关注理想条件下的任务成功率,忽视了这一点。