用工程的确定性，包裹模型的概率性

机制拆解

1. 约束解码保合规结构化输出让调用参数完全符合 Schema，把“格式错误”这一类故障从系统中彻底移除。
2. 依赖图并行把调用编译成 DAG，无依赖分支并发执行——实测延迟降至约三分之一、成本降至约六分之一，准确率还略有提升。
3. 海量工具先检索面对上千接口先做候选召回再生成调用，避免把全部工具塞进上下文（对应 C2）。
4. 观察—再调用循环调用结果回填后重新决策，是一切多步智能体行为的原型；失败观测应保留在上下文中以避免重复犯错。

并行不仅更快更省，还因为减少了长链条上的误差累积而更准。

机制拆解

1. 上下文成本每个工具定义约占 150–400 token；30 个工具约 8,000 token，100 个约 35,000 token，接入 7 个 MCP 服务器可占掉一半窗口。
2. 准确率成本工具从 10 个增至 50 个，工具选择准确率下降 15–25%——选择困难是真实且可测的。
3. 缓存成本动态增删工具会使前缀失效、缓存全丢；正确做法是工具集固定、用输出屏蔽（logit masking）控制可用范围。
4. 语义检索选工具当工具规模不可避免时，改为“先检索候选再调用”，把工具目录本身当作可检索的知识库。

工程建议：上下文利用率超过约七成即触发压缩；历史压缩比 3:1–5:1，工具输出压缩比 10:1–20:1。数值随场景调整，但“必须有预算、必须有阈值”是共识。

机制拆解

1. 预判式路由用偏好数据训练难度分类器，请求进入前即决定档位，实测可在保住约 95% 质量的前提下省下约 85% 成本。
2. 级联式兜底便宜模型先答并给出置信度，不达标才升级——在简单请求占比高的场景，成本最高可降约 98%。
3. 产品化路由前沿模型已内置实时路由按难度分配算力，网关类产品亦提供统一路由，“一个应用绑死一个模型”的时代结束。
4. 路由器本身要维护难度分布会随业务变化漂移，路由器需要定期重训与在线监控，否则收益逐月衰减。

保守口径提醒：公开资料中路由降本区间跨度较大（25%–85%），实际收益强依赖流量画像。建议以行内真实分布做 A/B 测算，不要直接采信厂商上限值。

机制拆解

1. 投机解码（无损）小模型先起草若干 token，大模型一次性并行验证，接受则跳过、拒绝则回退；输出分布与原模型完全一致，实测提速 2–3 倍，先进方法可达 6 倍以上。
2. 前缀缓存复用系统提示与工具定义等静态前缀命中缓存后，读取成本可比未命中低约一个数量级。
3. 连续批处理在服务层把不同请求的解码步交织执行，显著提升 GPU 利用率与整体吞吐。
4. 量化取舍八比特权重与激活量化可省约一半显存且近乎无损，四比特省更多但精度下降 1–3%，需按场景权衡。

机制拆解

1. 一代到三代朴素向量检索 → 重排与查询改写 → 图谱与社区摘要，逐步解决“查不准”和“答不了全局问题”。
2. 四代 · 自主检索模型自己判断证据是否充分、是否需要追问、是否需要换角度，形成多跳循环。
3. 反思式检索模型生成“要不要查 / 查得相关吗 / 答案有依据吗”的反思标记，按需检索并自我批判。
4. 铁律一 · 不要什么都上图简单事实问题向量检索更快更准更便宜；只有多跳与全局问题才值得图谱的构建成本。

三种检索方式是并存关系而非替代关系：按问题类型选型，而不是“一律上最新方案”。

机制拆解

1. 社区摘要回答全局问题实体图谱分层聚类后预生成摘要，用归并方式回答主题型问题；相比读全文可节省数倍到数十倍 token。
2. 多跳确定性遍历沿类型化关系做确定性遍历（股权 → 担保 → 关联交易），这是概率检索做不到的。
3. 时序图谱为事实标注有效期与失效期，用“标记失效”替代删除，从而能回答“当时是什么状态”。
4. 成本已大幅下降轻量化图谱方案把索引与查询成本压到传统方案的很小比例，图谱不再是奢侈品。

共同缺口：两者都不原生支持治理——访问控制只能在应用层实现，且新鲜度受限于摄取周期，这正是整体解决方案中 A6 知识与检索层要解决的问题。

机制拆解

1. 写入是异步的事件写入后由后台完成抽取、整合与反思，存在可观测的滞后——设计时必须假设长期记忆“最终一致”，不能在同一轮对话内依赖刚写入的内容。
2. 命名空间即隔离边界按“主体 / 会话 / 策略”三级组织命名空间，并把命名空间作为权限条件，使多租户隔离落到鉴权层而非应用层。
3. 写入有速率上限同一主体会话的事件写入通常有每秒个位数的速率限制，天然构成写操作的串行化闸口（呼应读写不对称）。
4. 遗忘要可证明事件保留期可配（如 7–365 天）＋按标识删除，构成合规删除的基础；但需注意向量索引的删除可证明性仍是行业缺口。

机制拆解

1. 前缀必须稳定哪怕一个 token 的差异也会让该位置之后的缓存全部失效——所以系统提示里绝不能放时间戳等每次变化的内容。
2. 只追加不改写上下文按追加方式演进，序列化必须确定性（键顺序不稳定会静默毁掉缓存）。
3. 装配顺序固定系统指令 → 工具定义 → 长期记忆 → 检索知识 → 会话历史 → 当前请求；顺序稳定才能最大化前缀复用。
4. 红线区不可压缩合规约束与权限边界置于固定区块，每次重建上下文时无条件重注入（呼应“压缩会抹除安全约束”这条判断中的约束固定）。

机制拆解

1. 中心编排主智能体分解任务、派发并行子任务、综合结果；配“任务台账 + 进度台账”双账本防迷航。银行原型：客服工作台。
2. 层级流水线把标准作业程序编码为智能体流水线，产物结构化交接。银行原型：集中运营作业链。
3. 辩论共识多个智能体独立作答 → 互看 → 修订 → 收敛，显著提升事实性。银行原型：审贷会的多空辩论。
4. 动态路由按会话状态把控制权移交给最合适的专家智能体。银行原型：客户请求分诊台。

机制拆解

1. 读侧扇出子智能体并行检索、取证、核验，各自独立上下文，只回传浓缩摘要（通常 1,000–2,000 token）。
2. 写侧单点所有落库、提交、发送、下单动作收敛到唯一的写入者（一个智能体或一个人工节点），从架构上消除写冲突。
3. 并发控制对共享状态引入数据库式的并发控制（乐观锁、版本号、事务边界），2026 年已有专门工作把这套机制引入多智能体。
4. 状态可见性读侧看到的是某一版本快照，写侧提交时校验版本——避免“基于过期信息做出的写入”。

机制拆解

1. 计划外置防遗忘把计划写入外部待办清单并周期性复述，对抗长任务“跑着跑着忘了目标”。
2. 贵贱分工降本规划用强模型、执行用便宜模型，已成为降本标配；“计划模式”在主流编码智能体中已产品化。
3. 上下文隔离子智能体在干净上下文中探索，可能消耗数万 token，但只向主智能体返回 1,000–2,000 token 的浓缩摘要。
4. 失败触发重规划执行失败不是直接放弃，而是回到规划层调整路径——这是长任务鲁棒性的主要来源。

机制拆解

1. 检查点与恢复在关键节点持久化计算与状态，崩溃后从最近检查点恢复，而非从头重跑（重跑既贵又可能产生重复副作用）。
2. 可挂起与人工审批流程可在等待人工审批时序列化挂起，批复后原地恢复——这是人机协同能落地的技术前提。
3. 确定性重放把外部调用结果记录下来，重放时复用而非重新调用，保证恢复后的行为与原路径一致。
4. 会话时长边界主流运行时单会话最长可达 8 小时；超出该边界的业务必须设计为可分段、可续跑的工作流。

机制拆解

1. 必须有外部信号无外部反馈（测试结果、校验器、检索证据）时，纯内在自我修正通常无效甚至有害——反思要“有据可依”。
2. 身份重标签把待检查内容以“外部提交材料”身份呈现，可显著提升显式纠错率（实测在多数模型-领域组合上提升数十个百分点）。
3. 次数设上限过度自查会抑制正确答案并拖长推理链；建议 1–2 轮上限并设早停条件。
4. 经验要沉淀把失败教训语言化后写入经验库（对应 T4 / C7），让反思跨任务生效而非只在当次有用。

机制拆解

1. 先校准再上线用 200–500 条专家标注样本校准，目标是与人工基线相关性达到 0.85 以上，并按季度重新验证。
2. 控三类偏差位置偏差（偏好靠前/靠后）、冗长偏差（长答案被高估）、自偏好偏差（偏好同族模型输出）——分别用随机换位、长度归一化或惩罚、跨模型互评来缓解。
3. 分维度打分不要给“综合质量分”，而是按准确性、完整性、合规性、可读性等维度分别打分并输出结构化结果。
4. 分层部署实时阻断类判定（注入检测、个人信息识别）需在数百毫秒内完成，必须用小模型；深度质量评估走异步链路。

即便做到 85%–88% 一致率，仍有超过一成的判定与人工不同——所以裁判用于抽检与排序，不能用于终局裁定。

机制拆解

1. 计划确认点执行前一次性确认计划与边界，比逐步纠偏成本低得多（对应 C11）。
2. 危险动作确认点删除、发送、支付、对外提交等不可逆动作强制显式确认，且确认信息须包含动作后果摘要。
3. 低置信升级点置信度低于阈值或重试失败即升级给人，并把升级本身作为质量指标监控。
4. 终审签字点涉及资金与客户重大权益的决策必须有人工终审——这在中国是监管明确要求，不是可选项。

机制拆解

1. ① 输入侧外部内容一律标记为不可信，与系统指令物理隔离；对工具返回内容同样适用（工具描述本身就可能藏指令）。
2. ② 架构侧双模型分工 + 受限解释器显式追踪数据流与控制流，为每个值附能力标签，按策略裁决动作。
3. ③ 执行侧沙箱化执行、出网白名单、危险工具组合禁令（严禁 shell + 文件系统 + 浏览器 + 邮件同处一个无约束流程）。
4. ④ 输出侧与 ⑤ 人审输出过滤与数据防泄漏；高危动作强制人工确认，作为最后一道闸。

机制拆解

1. 轨迹合成用强模型在真实或仿真环境中跑任务，筛出成功轨迹作为训练数据；数据质量比数量更关键。
2. 轨迹监督微调模仿学习打底，让模型先学会“这类任务大概怎么做”。
3. 可验证奖励强化用 GRPO 族算法在多轮交互中打磨，直接优化任务完成率。
4. 蒸馏下沉把能力蒸馏到小模型承担窄任务，配合“首念前缀引导”等技巧，可让小模型获得检索与代码工具能力。

机制拆解

1. 多视角验证为每个待验证结论分配不同“镜头”（合规视角、风险视角、可复现视角），比多个相同验证者更能发现问题。
2. 辩论收敛正反双方独立作答后互看修订，让分歧显性化——尤其适合存在主观判断空间的授信与估值。
3. 多数投票对可离散化的判定采用多数决，并记录少数意见作为复核线索。
4. 异源交叉用不同模型、不同数据源做验证，避免同源模型共享同一盲点（同族模型存在自偏好偏差）。

机制拆解

1. ① 离线评测分层构建评测集（按查询类型分层报告，避免辛普森悖论），报告 pass^k 与方差而非单次最好成绩。
2. ② 影子运行与人工流程并行运行一个完整业务周期，只比对不决策，重点分析分歧样本。
3. ③ 灰度放量按流量比例逐步放开，配自动回退阈值；平台化产品已提供流量切分与版本化配置能力。
4. ④ 在线监控持续抽样评估 + 漂移检测（与已验证黄金基线对比），把评测从“上线前一次”变成“持续进行”。

关键提醒：100 条样本、80% 通过率对应的置信区间约为 72%–88%——小评测集根本无法支撑“我们提升了 3 个百分点”这类结论。采用配对设计（同一批样本前后对比）可把样本需求降低一个数量级。

机制拆解

1. 四级结构会话（客户一次交互）→ 任务（一次目标达成）→ 步骤（规划/检索/生成）→ 工具调用（含下游系统跨度），逐级可下钻。
2. 标准化字段业界已形成生成式 AI 的追踪语义规范，涵盖操作类型、模型、token 用量、缓存读取量、压缩事件、首字时延等关键属性。
3. 指标族而非单指标任务成功率、pass^k、单任务成本、P95 时延、人工升级率、投诉率、幻觉率、缓存命中率、工具调用成功率并列监控。
4. 敏感字段可选采集提示与输出内容属可选采集项，金融场景需按合规单独开关并做脱敏——可观测不等于全量留存原文。

看板纪律：质量、成本、体验、风险四类指标必须同屏呈现。只看成功率会掩盖成本失控，只看成本会掩盖体验劣化——单指标优化必然产生副作用。