配置漂移
概述
配置漂移(Configuration Drift)指生产环境的配置随时间积累小改动,最终某个改动触发意外行为的事故根因模式,任何单一改动看起来安全但组合效应是意外的。
关键内容
-
定义与特征:配置漂移是指生产环境配置在多次小改动后逐渐偏离预期状态的现象。典型特征包括:任何单一改动看起来都是安全的、组合效应是意外的、问题往往在特定负载或条件下才暴露。这种事故根因模式特别隐蔽,因为每次变更都经过了审查,但累积效应无法预测。
-
在 AI 系统中的特殊表现:对于 LLM 系统,"提示即配置"——系统提示词的修改本质上也是配置变更。提示的影响是全局的、非局部的,修改一处可能影响模型在所有任务上的行为。这使得配置漂移在 AI 系统中比传统软件更具破坏性。
-
预防策略:配置即代码(Configuration as Code)是核心预防手段,将配置纳入版本控制系统;回归测试覆盖关键配置组合,确保配置变更不会引入意外行为;对于 AI 系统,还需要维护覆盖多行为维度的回归评测套件,小范围 A/B 测试后再全量推送,将提示版本控制纳入 CI/CD。
-
与 Postmortem 的关系:配置漂移是 Anthropic 事后回顾中识别的三类常见根本原因之一。好的 Postmortem 实践会从配置漂移事故中提炼出系统级改进,如加强配置变更的自动化检测和告警。
来源
- 18_postmortem.md — Anthropic Engineering Blog 原文《A postmortem of three recent issues》
相关
- Postmortem 文化 — part_of(配置漂移是 Postmortem 识别的根因类型之一)
- 评测驱动开发 — relates_to(回归测试覆盖配置组合)
- 提示工程 — relates_to(提示即配置,提示更新是配置漂移的特殊形式)