冻结快照模式
概述
Hermes 记忆系统的关键设计决策:会话开始时将 MEMORY.md 和 USER.md 加载为冻结快照注入 System Prompt,会话期间不再更新以保护 KV Cache。
关键内容
- 行为机制:会话开始 → 从磁盘加载 MEMORY.md + USER.md → 渲染为文本注入 System Prompt → 此后不再改变 → Agent 调用 memory 工具写入磁盘 → 新记忆下次会话才进入 System Prompt
- 核心目的:保护 LLM 的 KV Cache(前缀缓存)。如果 System Prompt 每次工具调用后都改变,前缀缓存失效,需重新处理整个 System Prompt
- 成本节省:对于长期运行的 Agent(数小时、数天),每次 API 调用节省约 3,000 tokens 的 System Prompt 重处理,累积效果极为可观
- 不影响正确性:工具响应始终显示实时状态,Agent 通过工具返回值知道最新记忆内容;System Prompt 中会告知"记忆更改下次会话生效"
- 最易误解点:用户常误以为写入记忆后立即生效,实际是写入磁盘即时生效,但进入 System Prompt 需等到下次会话
来源
- NousResearch/hermes-agent — 2026 年 4 月版本,第三篇:分层记忆系统
相关
- Hermes Agent — implements
- 分层记忆系统 — part_of
- 语义记忆 — extends
- 记忆工具 — extends