张博-基于多个头部客户案例解析大模型在运维领域的落地实践.pdf

《张博-基于多个头部客户案例解析大模型在运维领域的落地实践.pdf》由会员分享，可在线阅读，更多相关《张博-基于多个头部客户案例解析大模型在运维领域的落地实践.pdf（37页珍藏版）》请在三个皮匠报告上搜索。

1、基于多个头部客户案例基于多个头部客户案例解析解析大模型在运维（大模型在运维（垂直）领域的落地实践垂直）领域的落地实践张博云智慧CTO、研究院负责人2大多数技术背景从业者一样，从 读书 到 科研 继而走向 产业 张博，云智慧CTO，智能研究院负责人。张博先生拥有丰富的人工智能研究及行业领域实践经验；曾就职于微软亚洲研究院（MSRA），从事数据驱动的智能技术研究及算法工程化，其研发的智能算法已经在微软Excel、PowerBI等产品中落地应用；现致力于大模型技术在垂直领域特别是运维领域的商业实践，其带领研发的大模型产品已经在多家头部企业落地。张博先生毕业于清华大学，作为负责人完成工信部“新一代人工

2、智能产业创新重点任务揭榜”项目一项；主导研发了智能运维领域首款算法SDK-Hours;张博先生拥有国际专利4项，中国专利40余项目，指导团队在AAAI、ICLR等顶会发表多篇论文。1科研2产业大模型头部客户10+大模型约2000万合同*以上客户和合同单指大模型方向非云智慧整体，计算时间为2023年至今。3平台竞争赢者通吃，应用竞争百花齐放大模型的竞争格局主要分类三个方面，包括通用基座模型竞争、算力基础设施竞争、行业领域应用竞争，通用基座模型竞争最先打响，最终会形成赢者通吃的局面。算力基础设施目前英伟达出于垄断地位，但也有挑战者。领域模型应用，可谓百花齐放，先行者会吃到技术红利。01010202

3、0303通用基座模型竞争类比与移动互联网时代：竞争的层次是IOS还是Android还是COS军备赛1000X+卡GPU数量X亿美金融资速度OpenAIGoogle大厂系研究所高校系创业系产出算力基础设施竞争类比与移动互联网时代：竞争的层次是高通还是骁龙还是麒麟行业领域应用竞争类比与移动互联网时代：竞争的层次是X团还是X条还是X信强算力高市占率低能耗英伟达国内公司海外公司摩尔线程寒武纪INTELAMD挑战者挑战者金融运营商电力教育政务医疗办公效率人力资源IT运维010203040506行业领域.坚定地选择了一条不那么拥挤，且能快速创造价值的赛道4大模型领域深度应用正在成为“新质生产力”微软将Of

4、fice融入大模型，发布Microsoft 365 Copilot，将人工智能技术整合到了Word、Excel、PowerPoint、Outlook、Teams等办公软件中，一夜之间，人们惊呼曾经的文字工作者、Office培训师都要失业了。Midjourney讲大模型用于原画生成，一夜之间，原画师、设计师惊呼原地失业。已渗透应用领域应用流程应用流程应用示例通用基座模型在线办公智能运维大语言模型领域应用流程及已渗透场景领域基础模型模型推理与接口微调与重训工程化及部署提示工程5不赚钱不赚钱6以下是某金融机构（已经脱敏）一线运维通过日志排障的真实截图。场景特别简单，就是搭个ELK，但过程十分痛苦，开

5、始搜“ERROR”、看分布、拉研发、拉外包、开会、一点一点找故障。（领导在背后站着骂）7日日志志运运维维之之痛痛找不到看不懂怎么办怎么干每天上T的日志，哪里是故障？哪里是问题？根本找不到，只能事后排查即使找到了故障，根本看不懂是什么意思即使看懂了故障，找谁？怎么解决？即使找到解决方案，能不能自动执行？自动化工具怎么用？【落地】日志聚类+统计类算法 交易技术前沿AIOPS语义级日志异常检测在证券行业的探索与实践，交易技术前沿AAAI2024AAAI2024：LOGFORMER-A Pre-train and Tuning Pipeline for Log Anomaly Detection DA

6、SFAADASFAA20232023：LogLG-Weakly Supervised Log Anomaly Detection via Log-Event Graph Construction【落地】预训练异常发现神经网络 AAAI2024【落地】选/微调一个对运维理解好的基座模型ICLR 2024ICLR 2024 OWL:A Large Language Model for IT Operations面向日志数据的RAG增强技术研究与应用大模型Feed设计表示已投已中表示已形成技术方案，在投，或系工程性工作没必要发*团队不以发论文为目的，仅对技术创新做记录，论文撰写由实习生完成【落地】R