Type: concept
Confidence: 0.80
Created: 2026-04-20
Updated: 2026-04-20
Tags: 工具使用缓存性能优化工具与框架

工具结果缓存

概述

工具结果缓存是 Claude API 的一项功能,允许在会话内缓存返回相同结果的工具调用(如获取配置、查询静态数据),减少重复计算的 token 消耗和延迟。

关键内容

  1. 缓存机制:通过在工具定义中设置 cache_control: {"type": "ephemeral"} 启用会话内缓存。适用于获取系统配置、查询静态数据等返回结果不变的工具调用。

  2. Prompt Caching 的区别Prompt Caching 缓存的是输入上下文的 prefix,而工具结果缓存的是工具调用的输出结果。两者互补:前者减少输入 token 重复处理,后者避免重复执行相同工具。

  3. Token 成本优化:工具结果缓存直接减少重复工具调用的执行次数,是 Token 资源管理 的重要策略之一。对于需要多次查询相同配置的场景,缓存可显著降低成本。

  4. 适用场景:系统配置查询、静态数据查询、权限信息获取等结果在单次会话内不变的工具调用。

来源

相关