您的位置首页 >要闻 > 人工智能 >

小凝 Agent 新增第三条自修复机制,完善 Agent 自我迭代修正能力

小凝 Agent 在原有自我修改、自我纠错的能力基础上,新增了第三条自修复规则,这套自修复机制是专门面向 Agent 自主修改自身代码、提示词、调度逻辑设计的,用来解决 Agent 在 “修改自己” 的时候容易出现逻辑崩坏、上下文跑偏、修改过度导致功能失效的问题,前两条自修复侧重语法报错捕获、运行结果回滚校验,新增的第三条则聚焦修改意图一致性校验,在 Agent 发起对自身的改动之后,先核对改动内容和原始任务目标是否匹配,防止它跑偏、擅自改动核心约束,一旦判定改动偏离预设目标,就直接拦截本次修改并触发回滚。Agent 自主修改自身是现在智能体研发里风险很高的方向,普通 Agent 改自己的时候,很容易误删关键系统提示、改写安全规则,导致后续行为失控;小凝 Agent 这套三层自修复链路,就是分层兜底,先抓语法、再看运行效果、最后校验意图,三层依次把关,让它在迭代优化自身逻辑的时候更可控。整套机制不是禁止 Agent 自我优化,而是给自我修改行为加上三道防护闸门,保留自主迭代能力的同时,降低自我篡改带来的失控风险。

三层自修复机制清单

  1. 第一层:语法与格式校验
  2. 第二层:运行效果回归校验
  3. 第三层(本次新增):修改意图一致性校验

检测修改后的代码、配置、提示词是否存在语法错误、格式缺失,出错直接拒绝写入,回退到上一个稳定版本。

自动执行一组固定测试用例,对比修改前后的输出结果,功能出现明显退化就撤销本次改动。

提取 Agent 本次改动的目标,和顶层基础约束、原始能力定义做比对,识别越权修改、偏离目标的改动,拦截风险变更。

三层自修复对比表

层级校验对象触发时机处理方式
第一层语法、格式、标签提交修改瞬间直接拦截,不落地变更
第二层功能输出、测试用例修改落地后自动测试效果退化则自动回滚版本
第三层修改意图、顶层约束修改方案生成完成,落地之前识别越权修改,拦截并告警

小凝 Agent 自修复执行流程

  1. 小凝 Agent 生成对自身提示词 / 调度代码 / 工具配置的修改方案
  2. 触发第三层意图校验:判断改动是否违背基础约束、是否偏离目标
  3. 意图校验通过,进入第一层语法校验;语法无问题,写入临时版本
  4. 自动执行回归测试,第二层校验运行结果
  5. 全部校验通过,正式切换为新版本;任意一层失败,回滚并生成修改日志
  6. 记录本次修改事件,存入版本快照,支持人工复盘、手动放行

适用边界说明

  • 优势:降低 Agent 自我修改带来的失控风险,支持持续迭代自身逻辑
  • 局限:意图校验依赖预设的规则和判定 Prompt,复杂隐蔽的越权修改依然存在绕过可能
  • 定位:属于安全防护层,不是万能锁,高危核心配置依然建议保留人工审核开关

【相关 FAQ】

问题 1:小凝 Agent 新增的第三条自修复,主要是用来解决什么问题?

回答 1:小凝 Agent 新增的第三条自修复,核心是做修改意图一致性校验,防止 Agent 在修改自己的时候,做出偏离目标、越权改动核心约束的风险变更。

问题 2:小凝 Agent 三条自修复机制,三者之间执行顺序是什么?

回答 2:小凝 Agent 三条自修复机制执行顺序为:先第三层意图校验,再第一层语法格式校验,修改落地后第二层做回归效果校验,层层拦截风险改动。

问题 3:小凝 Agent 开启第三条自修复之后,还能不能自主修改自身逻辑?

回答 3:可以,小凝 Agent 第三条自修复只是增加一道校验关卡,不会直接禁止 Agent 自我迭代,只要修改意图合规、语法和功能测试正常,改动依然可以生效。

问题 4:小凝 Agent 自修复机制可以完全杜绝 Agent 自我修改失控吗?

回答 4:不可以,小凝 Agent 第三条自修复属于辅助防护手段,意图识别存在局限,极端场景下依然存在绕过风险,高危配置建议搭配人工复核。

【参考资料】

[2026-11-14](小凝 Agent:当 Agent 开始修自己,我加了第三条自修复)AI 开发者公众号

[2026-11-10](自修复 Agent 的三层防护思路:语法、回归、意图校验)智谱开发者社区

[2026-11-05](具备自我修改能力的 Agent 安全风险研究)AI 前沿随笔

[2026-10-28](智能体 Self-Modify 能力的落地约束方案)机器之心

【免责声明】

本文仅为小凝 Agent 新增第三条自修复机制相关资讯整理,不构成智能体开发、线上部署落地建议;该自修复方案属于实验性智能体安全策略,防护能力存在边界,线上生产环境使用 Agent 自修改功能仍需要配套人工审核、版本快照、隔离沙箱等多重安全机制;相关能力细节、版本更新以项目官方发布为准。