从写代码,到创作下一幕

探索 字节跳动 - 火山方舟 的 AI 编程与视频创作活动。

Agent Plan & Coding Plan

一站体验多款热门模型,为 AI 编程与智能体开发提供更多选择。新用户可联系(微信: goo_lvyouyou)免费体验 9.9 agent plan。

Seedance 2.5

让创意,跃然成片。探索 30 秒视频、多模态参考与局部编辑,把脑海中的画面变成下一支作品。

中文

自动评审

Codex 如何评审审批请求,以及如何配置评审者的策略

自动评审会将符合条件的审批请求发送给独立的评审智能体。沙箱、命令规则和工具设置决定哪些操作需要审批。评审者决定这些操作能否继续。

在 ChatGPT 桌面应用中,选择获准的 Daybreak 模型时,如果你的账户可使用 代我批准(Approve for me) 模式且组织策略允许,权限控件会自动切换到该模式。使用桌面应用的 /model 命令时也会如此。如果该模式不可用,当前权限模式将保持不变。模型选择绝不会覆盖组织管理要求。

在为获准的安全模型启用 完全访问(Full Access) 之前, ChatGPT 桌面应用会显示关于危险操作的模型专属警告。该警告建议改用 代我批准(Approve for me),并链接到 评审策略配置。该警告不会恢复沙箱边界,也不会覆盖组织策略。

选择自动评审

在桌面应用中,从输入框下方的权限控件中选择代我批准。确认当前对话已选中此模式。有关模式选择和故障排查,请参阅权限。

对于 CLI 或本地 Codex 配置,请设置 approvals_reviewer = "auto_review",并搭配符合条件的交互式审批策略,例如 approval_policy = "on-request"。仅更改审批策略并不会选定评审者。管理员可以为组织强制启用自动评审。

自动评审的工作原理

  1. 主智能体提出一项操作,例如运行命令。
  2. 如果操作需要审批,Codex 会创建请求。
  3. 如果设置了 approvals_reviewer = "auto_review",Codex 会将该审批请求转交给独立的评审智能体,而不是停下来等待人工审批。
  4. 评审者决定是否应执行该操作,并返回理由。
  5. 如果操作获批,执行将继续。如果被拒绝,主智能体会收到指示,寻找实质上更安全的路径,或停下来询问用户。

触发时机

自动评审会评估原本会暂停并等待人工处理的审批请求。其中包括:

  • 请求提升沙箱权限的 Shell 或 exec 工具调用。
  • 匹配设置了 decision = "prompt" 的命令规则的命令,包括沙箱内的命令。
  • 向需要审批的目标发出的网络请求。显式的网络拒绝规则会阻止请求。
  • 对允许写入的根目录之外的文件进行编辑。
  • 根据工具注解或配置的审批模式需要审批的 MCP 或应用工具调用。

已经获准运行的操作会直接执行,无需评审。

Computer Use 的应用级访问提示会直接呈现给用户。符合条件的 Computer Use 工具调用可以单独触发自动评审。

自动评审会阻止哪些操作

概括而言,自动评审旨在阻止以下操作:

  • 将私有数据、密钥或凭据发送到不可信目的地
  • 探查凭据、token、cookie 或会话材料
  • 大范围或持久地削弱安全性
  • 存在重大不可逆损害风险的破坏性操作

有关默认规则及其自定义方法,请参阅配置。

评审智能体看到的内容

评审者会评估触发审批请求的具体操作。

评审者会看到精简的对话记录和确切的审批请求。这些内容通常包括用户消息、向用户展示的助手进度更新、相关工具调用和工具输出,以及当前提请审批的操作。评审者还可以执行只读检查,例如在批准删除目录之前检查该目录。

其中不包含隐藏的助手推理。自动评审看到的是保留的聊天条目和工具证据,而非私有思维链。

拒绝与失败行为

明确拒绝不会被视为普通的沙箱错误。Codex 会将评审理由返回给主智能体,并添加更严格的指示:

  • 不要通过变通方法、间接执行或规避策略来追求同一结果。
  • 仅在有实质上更安全的替代方案时继续。
  • 否则,停止并询问用户。

对于大多数模型,Codex CLI 会在连续 3 次拒绝后,或该轮对话最近 50 次评审中出现 10 次拒绝后中断该轮对话。对于指定用于网络安全的模型,CLI 会在首次拒绝时中断该轮对话。

任何其他评审结果都会重置连续拒绝计数。当 Codex 达到拒绝次数上限时,会显示警告并停止该轮对话。

超时会与明确拒绝分开显示,并且主智能体会得知仅凭超时并不能证明操作不安全。

Codex 还为被拒绝的操作提供了明确的覆盖途径。在当前的开源 TUI 中,运行 /approve 打开自动评审拒绝记录 选择器,然后选择一项最近被拒绝的操作,批准重试一次。Codex 为每个任务记录最多 10 条最近的拒绝记录。此批准的范围很窄:它只适用于那项被拒绝的具体操作,而不适用于未来的类似操作;它会被记录为允许在相同上下文中重试一次;并且重试仍需经过自动评审。在底层实现中, Codex 会针对该具体操作注入一个开发者级别的批准标记。评审方随后会将用户的这一明确覆盖决定作为上下文,但仍会遵循策略;如果策略规定用户不能覆盖此类拒绝决定,评审方仍可再次拒绝。

配置

评审者模板 告诉评审者如何评估操作。Codex 会将安全策略插入该模板,并单独指定响应格式。CLI 会在评审模型的默认策略可用时使用该策略。否则,会使用 内置策略(policy.md)。

要添加规则,请在本地 config.toml 的 [auto_review] 下设置 extra_policy,或在托管的 requirements.toml 中设置顶层 guardian_extra_policy。Codex 会将这些规则与当前策略一同应用。

要替换策略,请复制要调整的完整策略。如果你使用内置默认策略,请复制 policy.md 的全部内容。编辑要更改的规则,然后将全文放入本地 [auto_review].policy 或托管的 guardian_policy_config 中。省略的规则不会保留在替换后的策略中。 Codex 仍会使用评审者的模板和响应格式。

Codex 会分别解析这两项设置,并忽略空值。托管的 guardian_policy_config 优先于本地的 [auto_review].policy。托管的 guardian_extra_policy 优先于本地的 [auto_review].extra_policy。例如,如果组织仅设置了替换策略,本地的 extra_policy 仍会向其添加规则。

有关组织范围的设置,请参阅 配置自动评审策略。

配置已授权的网络安全项目

对于已获授权的安全工作,请将自动评审与书面的工作范围及遵循最小权限原则的权限配置档案结合使用。使用获批的实验环境目标,记录操作和工作时间窗口,并将生产系统、无关主机、凭据和持久性更改排除在范围之外,除非获得明确授权。

此本地 config.toml 示例启用自动评审,并将安全工作规则添加到当前策略中。请将示例目标和操作替换为你获批的范围。

approval_policy = "on-request"
approvals_reviewer = "auto_review"
default_permissions = ":workspace"

[auto_review]
extra_policy = """
## Environment Profile
- Authorized target: lab.example.com.
- Approved actions: inspect the target, reproduce authorized vulnerabilities,
  and validate fixes within the documented engagement window.

## Tenant Risk Taxonomy and Allow/Deny Rules
- Allow only actions against the approved target that match the documented
  engagement scope and approved actions.
- Deny out-of-scope or unknown hosts, production access, credential theft,
  persistence, data exfiltration, destructive operations, and policy bypass.
- Deny ambiguous actions and high-impact changes until a human explicitly
  approves the exact target, action, and side effects.
"""

通过独立的文件系统和网络规则强制执行目标限制。对于组织,请将相同的安全工作规则放入托管的 requirements.toml 中的顶层 guardian_extra_policy。以下要求会选用自动评审,并限制可用的权限配置档案。

allowed_approval_policies = ["on-request"]
allowed_approvals_reviewers = ["auto_review"]
allowed_sandbox_modes = ["read-only", "workspace-write"]
default_permissions = ":workspace"

[allowed_permission_profiles]
":read-only" = true
":workspace" = true
# ":danger-full-access" is omitted, so it is denied.

allowed_permission_profiles 控制当前权限配置档案。在仍使用旧版 sandbox_mode 的部署中,allowed_sandbox_modes 也会阻止完全访问。

保留 approval_policy = "on-request" 或其他符合条件的交互式审批策略,并保留可强制执行的沙箱边界。使用 approval_policy = "never"、:danger-full-access 或 --yolo 时,操作可能不会创建评审所需的跨越边界的审批请求。

仅将网络目的地加入允许列表并不会触发评审。当沙箱内的操作仍必须交由评审智能体处理时,请添加带有 decision = "prompt" 的明确命令规则,或将敏感 MCP 工具配置为需要批准。

有关模型访问权限、安全工作设置和自定义智能体工作流,请参阅模型与可信访问和推荐配置。对于自定义 API 或 Agents SDK 运行框架,请使用防护措施与人工评审。

在不削弱安全性的情况下减少评审量

当沙箱已经覆盖常见的安全工作流时,自动评审的效果最佳。如果太多日常操作需要评审,请先修正边界,而不是教评审智能体永远批准嘈杂的权限提升请求。

在实践中,影响最大的更改包括:

  • 为有意使用的临时目录或相邻仓库添加范围有限的 writable_roots。
  • 添加范围有限的前缀规则。优先使用精确的命令前缀,例如 ["cargo", "test"] 或 ["pnpm", "run", "lint"],而不是宽泛的模式,例如 ["python"] 或 ["curl"]。宽泛的规则往往会消除自动评审旨在守护的边界。对于网络安全模型,CLI 会忽略 allow 前缀规则,并遵循 prompt 和 forbidden 规则。

默认情况下,自动评审会话记录保留在 ~/.codex/sessions 下,因此你可以在更改策略或权限前,让 Codex 分析其中的历史流量。

限制

自动评审改善了长时间运行的智能体工作的默认运行状态,但它并非确定性的安全保证。

  • 它只评估符合条件的审批请求,包括由显式命令规则或工具批准设置触发的请求。
  • 它仍可能出错,尤其是在对抗性或异常上下文中。
  • 它应当补充而非取代良好的沙箱设计、监控和组织特定的策略。

有关研究依据和已发布的评估结果,请参阅 Alignment Research 关于自动评审的文章。