错误复合
概述
错误复合（Error Compounding）是 Agent 系统中的可靠性挑战，指 Agent 在多步工具调用中维护状态时，单步错误会累积并导致后续执行完全走偏的现象。
关键内容
- 与传统软件 Bug 的区别：
- 传统软件的 Bug 是局部的，影响范围有限
- Agent 的错误会复合——一步出错可能导致后续完全走偏
-
Agent 长时间运行，在许多工具调用中维护状态，错误传播路径更长
-
Anthropic 的解决方案：
- 从错误发生处恢复：系统支持从错误点恢复，而非从头重启
- 让模型感知工具失败：通知 Agent 工具失败，让其自适应调整策略
-
确定性重试逻辑：结合定期检查点，确保状态可恢复
-
在多 Agent 系统中的特殊挑战：
- 子 Agent 间的错误传播问题
- 异步执行会带来额外的状态一致性挑战
-
跨子 Agent 错误协调复杂性
-
调试方法论：
- 添加完整的生产追踪，可诊断失败原因
- 监控 Agent 决策模式和交互结构
- 不监控具体对话内容（保护用户隐私）
- 高层可观察性帮助发现意外行为和诊断根因
来源
- 05_multi_agent_research — 第五节：生产可靠性（状态性与错误复合）
- raw/articles/ai-engineering/anthropic-engineering/claude-engineering/09_effective_harnesses.md — 长时任务中的错误复合效应
相关
- 多 Agent 系统 — part_of
- Agent 架构与设计原则 — relates_to
- 彩虹部署 — relates_to
- Agent Harness 运行框架 — prevented_by（Harness 防止错误复合）
- 检查点策略 — prevented_by（检查点防止错误积累放大）
- 工具错误处理 — prevented_by（结构化错误标记防止错误传播）