跳至主要内容AI Agent 安全
针对具备工具调用和自主执行能力的智能体,实施身份鉴别、最小权限、指令隔离、工具白名单、行为审批与审计回放,控制自动化执行风险。

需要解决的核心风险
智能体误解指令后自主调用高权限工具或执行破坏性操作
外部内容中的恶意指令劫持智能体决策与执行链路
身份、凭据和工具权限长期化,违反最小权限原则
多智能体协作缺少责任边界、审批节点和完整行为回放
方案核心能力
身份与最小权限
为智能体建立独立身份、短期凭据、细粒度授权和权限收敛机制。
指令与上下文隔离
区分系统指令、用户输入和外部内容,抵御间接提示词注入。
工具调用控制
基于白名单、参数校验、风险分级和人工审批控制执行动作。
行为监测与回放
记录规划、推理、工具调用和结果,识别异常链路并支持追溯。
典型应用场景
- 自动化运维、研发和安全响应智能体
- 可访问邮件、文件、数据库和业务系统的办公 Agent
- 多 Agent 协作与自主任务编排平台
- 涉及审批、交易或外部通信的高风险自动化
可交付能力清单
- Agent 资产、工具、凭据和数据流清单
- 身份权限、工具白名单与审批策略
- 间接注入、越权调用和异常行为测试
- 行为审计、告警响应和应急熔断机制
实施流程
身份与授权
确认智能体、工具和操作主体。
调用判定
校验权限、参数与动作风险。
执行控制
按策略放行、审批或阻断。
记录复盘
关联调用链、执行结果与审计记录。
交付内容
具体范围、实施周期与验收标准,在项目评估后共同确认。
讨论这个方案可讨论的交付内容
- 场景与风险测试记录
- 接入、策略配置及验证说明
- 运行审计与改进事项