04-构建面向大模型的安全治理体系和应用实践.pdf

《04-构建面向大模型的安全治理体系和应用实践.pdf》由会员分享，可在线阅读，更多相关《04-构建面向大模型的安全治理体系和应用实践.pdf（23页珍藏版）》请在三个皮匠报告上搜索。

1、构建面向大模型的构建面向大模型的安全治理体系安全治理体系演讲人：张浩然作业帮/高级架构师背景及挑战大模型与治理体系建设应用实践和效果收益总结与展望02030401目录背景及挑战01背景介绍互联智能化与AI大模型双重驱动下，信息安全领域临前所未有的复杂挑战攻击威胁进化AI工具降低攻击门槛，效率呈指数级增长攻击者呈现组织化、产业化趋势日均恶意尝试从10万次攀升至几十万次多元化业务场景：互联网、智能硬件、AIGC数万员工规模团队，全国十几个工区各类loT智能设备接入增加防御难度内部复杂性三层防御体系网络层网络层网络域控隔离、双因素认证、内网零信任网关、身份鉴权、动态权限策略传输层传输层威胁检测系统、

2、流量探针、深度网络流量分析、文件沙箱隔离检测终端层终端层智能EDR系统全覆盖、预装强装网络检测、95%以上终端覆盖率临的挑战安全防御体系运营能临两大挑战：无效报警占用了太多人报警处理需要一定的专业度日均接近2w条安全告警，有效信号不足15%安全专家深陷噪声海洋，处置效率严重受阻大多数报警需要复杂的场景判断，规则引擎无法高效处理SOP流程复杂且难以维护，新人员工误判率高核心挑战 无效报警占用太多人报警数量太多 终端数量众多，日均近2w条报警，高危数据仅占15%中低数据延后处理 大量数据和有限的人手和时间权衡下 不得不选择聚焦高危问题，将中低危问题延后处理规则引擎可能存在误报，延后处理可能潜藏问题

3、 高危数据中可能存在误报 中低危数据也可能存在遗漏效率不足、响应滞后 安全专家80%以上的时间浪费在实际上不需要处理的事情上 对于中危的暂时搁置，导致很多潜在问题未被发现核心挑战2 报警决策需要专业度场景案例：弱密码报警处理访问外部系统访问内部系统对公网地址的登陆，大多是可以忽略的大多数场景需要治理如果是本公司公网地址，则需要处理门禁、打印机、部分测试服务可以忽略数据库和关键业务系统则需要立即处理需要额外溯源分析访问目的和上下文大模型与治理体系建设02传统方案局限性低效率处置 人工处置速度约20条/人/小时，与告警产生速度形成20倍差距 日均1.5万条低危告警长期未被覆盖，潜藏0.12%真实安

4、全事件识别能有限 规则复杂且识别能力有限，仅能处理预设的威胁模式，容易被复杂场景绕过知识碎片化 典型攻击场最和内部审计场景的处置经验分散在多套知识库 大部分判断标准无法形成可沉淀的规则特征，呈现黑盒状态决策失误代价高 安全运营人员能力参差不齐，告警响应准确率不足89%90%威胁研判依赖专家经验，错误处置容易导致二次事件手动规则更新，专家经验依赖VSVS传统安全运营模式智能安全运营模式自动化响应，持续学习优化系统处置人工专家规则+Agent推理模型RAG+大模型引入：突破传统瓶颈通用大模型应用挑战协同智能解决方案大模型幻觉、确定性缺失非事实性回应与随机输出，同等条件下结果偏差超过30%推理能差，

5、逻辑断层多步推导逻辑断层，无法有效关联报警上下文关键要素数据过时、特定知识匮乏缺少企业业务数据和历史处置案，无法准确理解企业场景推理模型基于Deepseek等长推理大模型，突破多步逻辑推理瓶颈检索增强成多路召回策略，实现精准高效的知识库检索与匹配智能Agent自动执行处置，实现安全运营闭环与持续反馈强化复杂多步骤推导能力维持上下文逻辑关联一致性向量检索+关键词增强最小指令设计降低幻觉自动执行杀毒、工单等操作知识库不断优化与自我完善RAG助体系能提升输入流程输出流程知识库反馈持续优化数据质量动处置Agent执行杀毒等操作交叉验证多模型交叉验证结果模型决策处置决策与解释输出报警标准化提取时间、ID

6、、IP等核心字段关键信息补充情报Agent调用丰富数据向量化BGE-M3模型精准捕捉语义大模型推理最小指令方式减少幻觉RAG助体系能提升补全场景信息、追溯历史相似案例上下文补充多模型交叉验证大模型智能决策非确定结果人工审核Agent动化执行持续优化、补充案例库知识库反馈离线&在线数据飞轮P PC CD DA A技术架构-实时报警处置核心效果指标处置时间1分钟内原小时级自动化率99.99%人工减少99%召回率99%+原89.1%原始报警数据标准化保留核心字段：时间、报警ID、IP信息、威胁特征、网络数据和地理位置完善