您的当前位置:首页 > 标签 > 循环工程实践
清华大学:2026循环工程研究报告(89页).pdf
2026循环工程实践:5大风险、6大治理原则与成熟度模型|清新研究
2026循环工程实践深度解读:5大核心风险(自我确认、上下文腐烂、权限扩散、成本黑洞、理解债)与6大治理原则(最小权限、工具网关、SSDF化等),建立可落地的循环工程治理体系。
 2026-07-31
 综合
 89页
36张图表
数据来源:
清华大学:2026循环工程研究报告(89页) 查看报告
循环越顺,越要保持清醒——自我确认、上下文腐烂、权限扩散、成本黑洞、理解债,五大风险正在威胁循环工程的可持续性。清新研究团队提出的六大治理原则和成熟度模型,为循环工程从“个人脚本”走向“组织资产”提供了可落地的治理框架。

五大核心风险:循环越顺,越要保持清醒

循环工程面临五大核心风险。风险一:自我确认——模型很容易把半成品当完成,Agent生成的“我修好了”可能并没有真正解决问题,需要外部事实验证而非模型自我声明。风险二:上下文腐烂——长会话并不等于长期记忆,随着对话进行,早期信息逐渐丢失,Agent的决策质量随时间下降。风险三:权限扩散——连接器越强,边界越重要,每增加一个MCP连接器就增加一个攻击面,权限管理必须随连接器数量同步加强。风险四:成本黑洞——每一轮都是一次推理和工具执行,固定频率循环容易过度轮询,大上下文和多sub-agent会放大成本,预算器应控制轮次、token和工具调用。风险五:理解债——你没读过的代码越多,系统越陌生,过度依赖Agent生成代码而不理解其逻辑,会导致系统对团队而言越来越不可控。

六大治理原则:构建安全可控的循环体系

原则一:最小权限——Agent不应拥有broad or unrestricted access,默认只给当前任务需要的工具,敏感数据和关键系统先排除,权限升级必须有理由、记录和审批。原则二:工具网关——MCP是能力边界,也是安全边界,每个工具接入都要经过审查,控制Agent可以调用的外部系统范围。原则三:SSDF化——Agent生成代码也要遵守安全开发流程,确保Agent输出符合组织的安全标准和合规要求。原则四:AIRMF化——把Loop纳入AI风险管理框架,对循环进行风险分级,高风险循环需要更严格的审查和监控。原则五:人类交接——自动化不是无人负责,关键决策点必须保留人类判断,高风险操作必须人类批准。原则六:可关闭——能停止比能运行更重要,每个循环都必须有明确的停止机制和紧急关闭通道。

运营模型:从个人终端走向组织资产

循环工程的规模化部署需要建立完整的运营模型。每条循环都应像服务一样登记——集中登记,可查看状态、成本、权限和最近结果,可按团队、仓库、风险级别过滤。循环舰队管理一组循环,而不是单条自动化——需要统一的监控、告警和调度能力。模型路由根据不同任务选择最优模型——简单任务用小模型降低成本,复杂任务用大模型保证质量。评估资产库让失败样本产生复利——每次失败都应沉淀为评估用例,防止同类问题再次发生。技能库治理确保Skills是复用资产而非供应链风险——每个Skill都应经过审查和版本管理。连接器治理要求每个工具接入都回答三个问题:它需要什么权限?它访问什么数据?它失败时会怎样?

成熟度模型:按能力层级推进,不按日期强推

落地不应按时间强推,而应按能力成熟度推进。成熟度模型将组织循环工程能力分为若干等级——从个人实验(零星循环)、团队试点(共享循环)、部门标准化(循环舰队)到全组织治理(循环平台)。每个等级都有明确的能力要求和准入条件,组织需要在当前等级积累足够经验后才能进入下一等级。最佳试点选择从低风险、高反馈密度任务开始——CI失败修复Loop是最推荐的起点。启动任何Loop前先问十个问题——确保每个循环都有明确的业务价值和责任归属。四个反模式需要明确避开:一开始就构建复杂循环、忽略停止条件、跳过人类交接、没有预算控制。
客服
商务合作
小程序
服务号
折叠