ISC2：生成式AI在网络安全领域的应用（28页）.pdf

1、生成式AI在网络安全领域的应用学习、构建、应用2个人简介王志刚致力于技术加速AI成为新质生产力网络安全专家、架构师、AI与数据科学家、生成式AI通用人工智能技术探索先趋个人使命：推动AI助力网络安全技术背景AIAI：大模型训练、：大模型训练、AIAI推理应用培训、建设、和咨询服务推理应用培训、建设、和咨询服务 数据科学：数据平台、数据科学、数据安全与治理 应用和基础架构：云平台、云原生、DevOPS、微服务、分布式 网络安全：评估、防御体系建设、密码学过往经验安全大模型、多模态嵌入、安全大模型、多模态嵌入、LLMOPSLLMOPS、大语言模型大语言模型Zero2HeroZero2Hero 20

2、08年奥运会熟悉安全专家 百度、亚马逊、华为、阿里云安全架构师，美团首席安全架构师，端到端筹建安全防御体系、加密体系和数据安全michael7736(微信、Twitter、Linkedin、Github、HuggingFace)目录 AI大爆炸-大模型发展概览 AI+安全：大模型重构安全业务 How AI：安全企业如何构建自己的AI系统AI大爆炸-大模型发展概览回答几个问题 AI泡沫有多大？AI发展的现实情况？如何获得AI的客观认知？从商业视角看待AIAI 第二次技术革命 人工智能的发展与微处理器、个人电脑、互联网和手机的发明一样重要。它将改变人们工作、学习、旅行、就医和相互交流的方式。整个行

3、业都将围绕人工智能重新定位。企业将通过对人工智能的运用来脱颖而出。让尽可能多的人受益 最后，我们应该记住，人工智能的成就才刚刚开始。它目前所具有的任何局限性，在我们尚未意识到之前都将消失AI从产、学、研究领域都得到迅猛发展产业界学术界科学研究2024 AI 技术报告State of AI 2023人工智能现状报告全世界最顶尖的科技公司All-In AI，算力、风头AI成为当下最火热的投资社区发展迅猛，生态繁荣此外AI风潮正席卷全部行业AI成为创新最密集的领域全世界最顶尖的科学家、学术机构Stanford、MIT、CMU成为AI科研应用先趋AI正在生物学Alpha Fold，材料学、分子物理学、

4、基因学和医学领域产生创新性突破，并蔓延到艺术创作领域12A AI I将将如如何何颠覆覆我我们的的产业？提高人们的认知、效能和专业能力让产品更具竞争力 TesLA FSD企业知识库、AI编程、AI生成生物工程、蛋白质合成；量子、分子物理学；化学材料学；历史学、社会学等投资决策、战略决策、预测经济趋势、预测能源、农业生产、气候变化等科科研研创新新决决策策与与洞洞察察产品品服服务人人才才培培养养产能能提提效效AI什么是大模型大模型的前世今生大模型、超能力超大规模参数、超大规模数据集 超大规模的参数深层神经网络，可以理解事物一切特征、细节 超大规模的数据：构造出与其他事物的千丝万缕的联系探究出足够抽象

5、的理论和顶层逻辑 在自监督、无特定目标的简单猜词游戏基础上，洞悉文字和其代表的实体之间的复杂关系。从而实现举一反三，通用能力 当数量积累到足够的量，层数足够深，产生涌现-灵光乍现的能力 GPT前：小模型或专有模型：特定任务，低复用，低扩展，重开发 GPT后：大模型：通用模型，高复用，高扩展，轻开发，Scaling Law泛化与涌现范式转换LLM的能力具有语言的能力具有世界知识具有专家经验具有推理能力具有创造能力强大的信息处理能力生成式AI具体能干什么？安全风险三要素业务顶层设计：业务核心痛点与诉求。隐私合规？竞争对手？资产损失？信用？(业务review)中层：业务数据流转与应用使用逻辑（架构r

6、eview，case study）底层：资产治理、识别盘点，细粒度资产盘点、IT基础设施和关系数据建设（tools+平台）威胁威胁建模与攻击面分析（安全评估）Attacks 框架与威胁情报威胁实体特征与情报库，入侵检测，画像分析（SOC+AI）防护纵深防御体系防御原则防御技术安全业务安全运维（依托Soc/sims和资产治理）资产管理、配置管理、安全指标管理漏洞、补丁和供应链管理安全风险分析、趋势分析安全事件应急响应、追查 安全工具 漏洞管理 身份认证（人、设备、服务）访问控制（ABAC）密码箱Secret Manager KMS（密钥管理、加解密SDK/