工具结果缓存
概述
工具结果缓存是 Claude API 的一项功能,允许在会话内缓存返回相同结果的工具调用(如获取配置、查询静态数据),减少重复计算的 token 消耗和延迟。
关键内容
-
缓存机制:通过在工具定义中设置
cache_control: {"type": "ephemeral"}启用会话内缓存。适用于获取系统配置、查询静态数据等返回结果不变的工具调用。 -
与 Prompt Caching 的区别:Prompt Caching 缓存的是输入上下文的 prefix,而工具结果缓存的是工具调用的输出结果。两者互补:前者减少输入 token 重复处理,后者避免重复执行相同工具。
-
Token 成本优化:工具结果缓存直接减少重复工具调用的执行次数,是 Token 资源管理 的重要策略之一。对于需要多次查询相同配置的场景,缓存可显著降低成本。
来源
- 22_advanced_tool_use — 全文,工具结果缓存章节
相关
- Prompt Caching — compares_to
- Token 资源管理 — relates_to
- 并行工具调用 — relates_to