A1--张曦--LLM和Multi-Agent在运维领域的实验探索.pdf

1、LLM和Multi-Agent在运维领域的实验探索张曦 博士华为云SRE AI使能专家张曦 博士华为云SRE AI使能专家犹他州立大学统计学博士，研究方向为AI for Data、AI for BI、AIOps，时间序列分析等；具有丰富的人工智能在企业场景应用落地的成功经验，应用场景覆盖营、销、服、供、采、制、研发等多领域，曾支撑华为集团多个业务应用+AI，带领团队成功攻克5+企业技术难题，并主导发布多个AI服务。目录01CONTENTS0203对传统运维方案的痛点思考大模型给AIOps带来新机遇LLM和Multi-Agent协同的运维方案04多模态基础模型0506智能运维未来“自动、自主”企

2、业应用Agent：Multi-Agent协同框架扩展性有限虽然不同模态基础检测模型已做到通用且可快速适配，但是在下游任务是耦合的：比如系统再新增一类数据或者去掉一类数据，那么根因定位逻辑可能需要修改，基于有监督训练的故障分类模型可能部分失效手动维护自动运维规则传统方案下的自动运维，需要工程师写下来出现什么情况执行什么动作，系统按照规则自动执行，不同系统的规则无法复用。无法有效利用专家经验和领域知识传统模型没有涌现能力，有些模块还依赖具体场景的标签数据，对没见过的故障现象处理能力有限。人机交互不友好整个运维流程是固定的，人想要查看某个检测数据细节需要自己查询数据库，无法随意指定中断或新增某个处理

3、环节。2年前的根因定位和故障分类方案局限性/痛点前几年的AIOps技术方案能用，但还不够好用目录01CONTENTS0203对传统运维方案的痛点思考大模型给AIOps带来新机遇LLM和Multi-Agent协同的运维方案04多模态基础模型0506智能运维未来“自动、自主”企业应用Agent：Multi-Agent协同框架针对运维领域海量知识快速获取、辅助诊断和故障分析能力针对多模态数据进行快速高效准确的异常检测能力针对多源复杂部署的运维数据进行快速根因定位能力告警繁多、区分故障传播节点和故障根因节点历史排障经验积累数字化，形成知识库多损益、多类型数据：Log、Metric、业务黄金指标、Tra

4、ce数据异常不等于故障发生，识别可能造成运维故障的数据异常波动将LLM较为广泛的知识储备（横向能力）与运维领域专业知识（运维垂域）相结合运维工具繁多，利用LLM+多智能体协同使能运维自动驾驶AI工程师Devin：根据issue描述和code-base生成 diff，自动修复Devin 根据问题描述中提供的测试代码，更新测试文件Devin Born Mar.2024AI可以写代码、debug、测试、编辑数据集运维三大能力大模型给AIOps带来新机遇现在过去故障修复依赖定制分析多模态运维数据时序大模型依赖专家经验运维大语言模型自动诊断依赖人工处理大模型编排实现自主决策、自动修复融合时序大模型、大语

5、言模型、Agent编排、RAG等技术，结合运维工具为一体的人机协同系统智能运维拥抱大模型Multi-Agent自动化运维工具运维领域知识 RAGMOE开源大语言模型运维领域高质量数据集Log FMMetric FMTrace FM故障诊断异常感知目录01CONTENTS0203对传统运维方案的痛点思考大模型给AIOps带来新机遇LLM和Multi-Agent协同的运维方案04多模态基础模型0506智能运维未来“自动、自主”企业应用Agent：Multi-Agent协同框架时序大模型基础底座（内测中）LogMetricTrace历史告警信息服务部署架构信息DataLog检测任务Metric（TC

6、）检测任务Trace检测任务动态拓扑构建故障模式知识库告警信息秒懂修复建议辅助诊断报告案例生成用户接收消息终端运维大屏系统运维/运营页面用户前台LLMAgent时序大模型自动化运维工具决策修复23LLM&Multi-Agent协同使用主管LLM对异常问题与子领域Agent进行桥接，多个子领域Agent协同工作，提升运维效率使用Multi-Agent编排调度，实现子领域Agent之间互相对话和调用LLM底座与Agent编排互相解耦，可以灵活使用运维大量知识进行Finetuning 或外接RAG动态拓扑和故障模式库利用DBSCAN从时间维度聚类，形成异常事件利用Trace数据实时生成拓扑结构图根据