涌现行为

概述

涌现行为（Emergent Behavior）是复杂系统的典型特征，指系统中小的改变导致大的行为变化，这种行为无法通过单独分析系统组件来预测。

关键内容

1. 在多 Agent 系统中的表现：
2. 小改变导致大行为变化
3. 是多 Agent 工程中最难预测的部分

4. 需要理解交互模式，而非仅仅理解单个 Agent 行为

5. 管理策略：

6. 最佳 prompt 不是严格指令，而是协作框架（分工、问题解决方法、资源预算）
7. 需要理解 Agent 间的交互模式，而非仅仅理解单个 Agent 行为

8. 通过评测和人工评估发现涌现行为，而非仅靠理论分析

9. Anthropic 的发现：

10. 早期 Agent 系统性地选择 SEO 优化的内容农场，而非权威但搜索排名较低的来源
11. 这个问题只有人工测试才能发现，是典型的涌现行为

12. 向 Prompt 中添加信源质量启发规则后，问题得到解决

13. 与复杂系统理论的关系：涌现行为是复杂系统的普遍特征，不仅存在于多 Agent 系统，也存在于其他由多个交互组件组成的系统中。

来源

• 05_multi_agent_research — 第七节：深度辨析（涌现行为的管理）

相关

• 多 Agent 系统 — part_of
• Agent 架构与设计原则 — relates_to
• LLM-as-Judge — relates_to