A7
Tool Gateway Design
A7 工具网关 · 接入、鉴权、限流与变更管控
工具网关是智能体访问行内系统的唯一出口:统一接入、统一鉴权、统一分级管控、统一留痕。
网关六项职责协议适配把行内 API、存储过程、批量作业统一转为标准工具描述,屏蔽后端差异。
鉴权与令牌校验入站身份,向下游换取受众绑定的短时效令牌,凭证入保险库并轮换。
分级管控按五级动作等级(放行—终审)强制审批、双人复核或直接拒绝,等级存于工具元数据。
限流与熔断按工具、按智能体、按客户三维限流;异常调用模式触发熔断并告警。
留痕与回放记录调用方、参数、结果摘要、耗时、成本,形成可回放的调用链。
变更管控工具描述与 schema 版本钉死并做哈希校验,任何变更都触发重新审批。
出站鉴权时序(以标准授权协议为例)← 左右滑动查看完整内容 →
| 角色 | 1 | 2 | 3 | 4 | 5 |
| 智能体 | 发起工具调用 · 携带工作负载令牌 | 等待 | 等待 | 等待 | 收到结果 · 结果入上下文 |
|---|
| 工具网关 | 校验入站身份 | 查等级与限流 | 取下游令牌 | 调用下游系统 | 记录调用链 |
|---|
| 身份服务 | 验签与受众校验 | 令牌交换 | 保险库命中 / 新签 · 返回短时效令牌 | | 记录凭证使用 |
|---|
| 业务系统 | | | | 按令牌授权执行 | 返回结果与回执 |
强制节点(人工 / 治理)
金色为不可绕过的管控节点:等级与限流检查、令牌交换。
关键设计一:禁止令牌透传网关不得把上游令牌原样转给下游,必须做令牌交换并绑定受众,否则权限边界形同虚设。
关键设计二:工具变更即重新审批工具描述是模型行为的一部分,描述被改等于行为被改——这是最容易被忽略的攻击面(见 C16 事故清单)。
关键设计三:网关是唯一出口禁止应用绕过网关直连业务系统;绕过即意味着无限流、无留痕、无分级管控。
智能体、责任人、被代理人三方绑定,三者缺一不得上岗;动作按后果的不可逆程度分为五级,等级由网关强制执行。
智能体身份模型(三方绑定)智能体身份工号 · 所属岗位 · 能力清单;创建、变更、回收全程记录
被代理客户 / 员工代表谁在操作;授权范围与有效期
三者缺一 · 不得上岗
动作分级审批矩阵(建议直接作为制度附表)← 左右滑动查看完整内容 →
| 等级 | 动作示例 | 技术控制 | 人工要求 | 留痕要求 |
| 放行 | 知识检索、生成草稿、内部查询 | 只读权限,出网白名单 | 无 | 调用链留痕,按比例抽检 |
|---|
| 提示 | 写入工作底稿、流转内部工单 | 写权限限定命名空间 | 系统提示,可事后复核 | 全量留痕 + 内容快照 |
|---|
| 审批 | 对外发送、客户信息变更、外呼发起 | 需审批令牌方可执行 | 经办人确认并录入理由 | 含审批人、理由、时点 |
|---|
| 双控 | 账务处理、额度调整、参数变更 | 权限分离 + 二次确认 | 双人复核,操作与复核分离 | 双人身份与差异记录 |
|---|
| 终审 | 资金支付、授信审批、对外报送与披露 | 强制人工闸门,不可绕过 | 有权人签批;重大事项委员会授权 | 完整决策依据 + 版本 + 签批链 |
等级刻在工具上审批等级作为工具元数据由网关强制执行,不依赖提示词自觉——提示词可被绕过,元数据不能。
权限随岗位而非随人智能体按岗位授予最小权限;岗位调整时,旧权限须从活跃实例中即时抹除,避免权限沉积。
自主度提升需数据支撑智能体每扩展一级可执行的动作(例如从“提示”级扩展到“审批”级、再到“双控”级),都必须提交 pass^k 达标报告、影子运行比对结果与红队报告三份材料。
来源金发〔2026〕8 号(高风险应用关键环节人工监督干预、谁使用谁负责);企业智能体身份产品能力(身份模板、条件访问、生命周期治理)。
A9
Security in Depth
A9 安全纵深 · 风险清单到控制项的逐条落地
智能体十大风险逐条对应平台控制项与归属模块;安全有效性要靠持续红队来验证,而不是一次跑分。
智能体十大风险与平台控制项
| 风险项 | 平台控制项 | 归属模块 |
| 行为劫持 / 目标被篡改 | 红线区固定注入 + 计划人工确认点 + 目标一致性校验 | 上下文服务 / 审批中心 |
|---|
| 提示注入(含工具描述藏指令) | 不可信内容隔离 + 能力标签裁决 + 工具描述哈希钉版与变更审批 | 安全服务 / 工具网关 |
|---|
| 工具滥用 | 最小工具集 + 分级审批 + 危险工具组合禁令 | 工具网关 |
|---|
| 身份与权限越权 | 智能体工号 + 令牌交换与受众绑定 + 命名空间鉴权 | 身份服务 |
|---|
| 护栏与沙箱不足 | 每会话微虚机隔离 + 出网白名单 + 代码沙箱禁网 | 运行时 |
|---|
| 敏感信息泄露 | 检索时权限前置 + 输出脱敏 + 内容采集开关 | 知识服务 / 可观测 |
|---|
| 数据与记忆投毒 | 来源可信度校验 + 外部内容标记不可信 + 定期投毒检测 | 记忆服务 |
|---|
| 资源耗尽 | 三维限流 + 成本配额 + 熔断降级 | 工具网关 / 运行时 |
|---|
| 供应链风险 | 依赖钉版 + 来源白名单 + 仿冒包监测 | 研发流程 |
|---|
| 过度信任与责任模糊 | 终审级动作强制人工签批 + 三方身份绑定 + 决策依据留痕 | 审批中心 / 可观测 |
红队与验证机制频率要求按季度常态化红队;模型版本、脚手架、工具集、提示模板任一发生变更,即追加一次专项测试。
方法要求必须采用“攻击者感知、允许多次尝试”的评估方式。公开实测显示:通用注入成功率约 11%,针对性定制攻击可达 81%,多次尝试平均约 80%。
结论要求单次基准跑分不构成安全结论;报告须给出攻击成功率、平均尝试次数与失败模式分布。
闭环要求每个成功攻击案例都必须转化为一条控制项或一条评测用例并纳入回归——否则红队只是演习,而不是治理。
爆炸半径隔离(一条硬禁令)严禁把 shell 执行、文件系统读写、浏览器访问、邮件外发四类能力放入同一个无约束工作流。四者任意组合都可能被注入指令串联成完整的数据外泄链路;确需组合时,必须拆分为不同智能体、不同权限域,并在中间插入人工闸门。
与三道防线的映射一道防线在业务流程内嵌护栏与审批闸门;二道防线负责红队演练、策略引擎与风险计量;三道防线核查行为日志完整性与控制项有效性——智能体安全不是新体系,而是既有体系的新对象。
来源OWASP Top 10 for Agentic Applications 2026(2025-12-09);NIST CAISI 智能体劫持评估(629 用例);MCP 生态安全事故汇编。
可观测是“操作留痕、事后可查”这一监管要求的技术形态:四级追踪逐级可下钻,八类审计字段随调用自动产生。
四级追踪结构(逐级可下钻)- 会话 Session客户一次完整交互;主键为渠道生成的会话标识,绑定客户号与员工号审计主键
- 任务 Task一次目标达成过程;记录目标描述、验收标准、最终状态与耗时目标与验收
- 步骤 Step规划、检索、生成、审批等原子步骤;记录输入摘要、模型版本与耗时原子步骤
- 工具调用 Tool Call每次外部调用;记录工具名、调用标识、参数摘要、结果状态与下游跨度下游跨度
审计日志必备字段(八类)身份三元组智能体工号 + 责任人 + 被代理客户 / 员工,以及本次生效的授权范围
决策依据检索到的知识条目与出处、注入的记忆条目、生效的规则版本
执行记录工具调用序列、参数摘要、结果状态、下游系统回执标识
人工触点审批人、审批时点、审批理由、是否修改及修改内容
模型与配置模型名称与版本、提示模板版本、工具集版本、脚手架版本
资源与成本输入 / 输出 token、缓存读取量、耗时、首字时延、估算成本
异常与拦截护栏命中、限流熔断、注入检测告警、压缩事件标记
内容标识对外输出是否已按规定添加生成内容标识(显式与隐式)
埋点必须前置上线后再补埋点,意味着历史数据不可追溯;追踪结构应与审计字段一次性对齐设计。
内容采集要有开关提示与输出原文属敏感内容,须按合规单独开关并脱敏——可观测不等于全量留存原文。
留痕要能回放监管检查与投诉处理需要还原“当时智能体看到了什么、依据什么、谁批准的”,而不只是结果。
监管对齐金发〔2026〕8 号要求完整记录智能体每一次工具调用的输入、决策依据和执行结果;《人工智能生成合成内容标识办法》(2025-09-01 施行)要求对外生成内容添加显式与隐式标识——两项要求都必须在埋点设计阶段落实,而不是上线后补做。
一句话检验标准如果监管来问“这笔业务智能体为什么这么判”,能在五分钟内完整还原它当时看到的资料、依据的规则、经过的审批——做得到就合格,做不到就不能上生产。
上线是一条分段推进的流水线,每一段都有通过条件;门槛按业务风险等级差异化设定,评测集是与代码同等重要的资产。
上线流水线与通过条件- 离线评测分层评测集,pass^k 达标
- 影子运行一个完整业务周期,分歧样本逐单复盘
- 灰度放量按比例放开,配自动回退阈值
- 全量上线持续抽样,漂移检测
- 在线监控四类指标同屏,异常自动降级
上线门槛建议(按业务风险等级差异化)← 左右滑动查看完整内容 →
| 风险等级 | 典型场景 | pass^k 门槛 | 成本与时延约束 | 人工要求 |
| 低(放行、提示) | 知识问答、草稿生成、内部检索 | pass^3 ≥ 90% | 单任务成本 ≤ 预算基线 | 事后抽检 ≥ 5% |
|---|
| 中(审批) | 外呼话术、客户信息变更建议、工单处置 | pass^5 ≥ 90% | P95 时延 ≤ 服务标准 | 全量经办人确认 |
|---|
| 高(双控) | 账务处理建议、额度调整建议、可疑交易定性 | pass^8 ≥ 95% | 成本与时延双约束 | 双人复核 + 差异留痕 |
|---|
| 极高(终审) | 资金支付、授信审批、对外报送与披露 | 不以自动化为目标 | 不适用 | 人工终审,智能体仅提供依据 |
要检出多大的提升,每组需要多少评测样本
检出 +2 pct6,300
检出 +4 pct1,580
检出 +7 pct480
检出 +12 pct165
双样本比例检验,80% 功效 / 95% 置信。
小样本说明不了“提升”100 条样本、80% 通过率的置信区间约为 72%–88%——小样本无法支撑“提升了几个点”的结论。
用配对设计降样本采用配对设计(同一批样本前后对比),可把样本需求降低约一个数量级。
必须分层报告按查询类型分层报告,避免整体指标掩盖某一类场景的显著劣化。
核心主张评测集是与代码同等重要的资产——分场景建设、版本化管理、专人维护,并在每次模型或脚手架变更后强制回归。