Type: concept
Confidence: 0.85
Created: 2026-04-18
Updated: 2026-04-18
Tags: 安全架构Agent系统防御模式

三道防线模式

将 LLM 的不确定性转化为系统确定性的分层防御架构。核心矛盾:LLM 输出是随机的,但系统执行必须是可控的

关键内容

  1. 第一道防线:意图过滤(ExecPolicy
  2. 命令在执行前先过策略规则集
  3. 三态决策:allow(放行)/ prompt(暂停等待审批)/ forbidden(拒绝并返回替代方案)
  4. 本质:在"意图层"拦截危险操作

  5. 第二道防线:人机协同(Approval Gate

  6. 不确定的命令暂停,等人类批准
  7. approval_policy 精细控制暂停粒度
  8. 本质:在"决策层"引入人类判断

  9. 第三道防线:执行隔离(Codex沙箱系统

  10. 即使策略放行了,OS 内核也限制文件系统和网络边界
  11. macOS Seatbelt / Linux Landlock+seccomp
  12. 本质:在"执行层"用内核强制兜底

设计原则

来源

相关