《新华三:2025主动安全 智御未来——人工智能驱动下的网络攻防对抗新范式报告(23页).pdf》由会员分享,可在线阅读,更多相关《新华三:2025主动安全 智御未来——人工智能驱动下的网络攻防对抗新范式报告(23页).pdf(23页珍藏版)》请在三个皮匠报告上搜索。
1、p 人类用了70年,站到了人工智能(AI)发展的拐点、通用人工智能(AGI)发展的基点上p 未来,人工智能将进一步成为人类脑力的延伸,并将以新的“摩尔定律”,打破“一万小时定律”,迎来生产效率的再飞跃 起步:人工智能跨上第一个新台阶1980,专家系统获得巨大成功2006,深度学习正式提出2016,GPU加持深度学习应用爆发 应用:大模型开启人工智能新范式2017,谷歌提出Transformer模型2023,ChatGPT横空出世2024,生成式AI进入多模态、场景化阶段 飞跃:拥抱第四次工业革命新机遇训练成本降低,行业需求细分,政策标准完善大模型向小型化、垂直化、轻量化发展AIOS时代重新定义
2、流量入口,重塑生态19802016201720242025未来原来:持续潜伏与即刻响应现在:更隐蔽的手段、更快速的突破方式原来:点线突围与全域防守现在:AI辅助提升攻击精度和准度原来:有组织的对抗与防守方巨大人才缺口现在:+自动化、智能化、武器化、高隐蔽p 网络空间“攻强守弱”的局面,将在AI的加持下进一步加剧。从人防、技防到智防,守方需尽快做出响应与布局目标侦查AI自动分析多源数据,在海量信息中自动识别潜在弱点武器化AI 智能生成高度个性化的钓鱼邮件,分析网络和系统活动模式,选择最佳攻击时机f载荷投递AI 加速生成恶意软件变种,绕过检查,提升投递功率渗透利用1)前期参与代码审计和0day挖掘
3、2)后期参与生成逃逸载荷,绕过防御体系安装植入AI动态调整持久性机制以应对目标环境的变化任务执行AI 分析网络流量模式,选择最适合的数据窃取通道,优化混淆、压缩和加密 命令控制参与加密信道检测对抗;变更加密算法、信道特征弱化beacon以躲避步态等AI检测p 攻击策略制定:自动化分析互联网情报、目标网络架构、漏洞,精准进行受害者画像,根据其行为习惯制定更有效的攻击策略p 攻击样本生成:加速钓鱼邮件生成、恶意软件编写、0day漏洞挖掘,兼顾隐蔽和逃逸对抗,提升短时间突破目标的可能性资产信息搜集(朴素贝叶斯、支持向量机、决策树、随机森林、卷积神经网络)口令破解(PassGAN、GENPass模型)
4、文本验证码破解(CNN、GAN+迁移学习)钓鱼和垃圾邮件文案(马尔科夫、LSTM)0day漏洞挖掘(支持向量机、逻辑回归、决策树、随机深林、图神经网络、循环神经网络)恶意软件生成(GAN、遗传算法、强化学习)漏洞利用(NLP提取CVE报告自动生成PoC)攻击路径选择(Dijkstra算法、攻击图技术、模拟退火算法、强化学习)渗透测试工具(DeepExploit框架、Shennina框架)漏洞利用(NLP提取CVE报告自动生成PoC)流量隐蔽(GANs)检测逃逸变体(强化学习、GAN)意图混淆(深度神经网络DNN)以ChatGPT为代表的大语言模型(LLMs),更是进一步降低了攻击门槛,通过自然
5、语言对话发起多项攻击,同时支持智能任务编排p 一方面AI 有着高效的恶意软件和载荷生成能力,一方面利用AI可以提前模拟检测对抗,多态性的组件在沙箱对抗上效果显著p 目前,低烈度、常态化的对抗,主要表现在网络z、舆论z、认知z的形式上p 涉及生成对抗网络(GANs)、变分自编码器(VAEs)等深度伪造技术,以及Deep Video Portraits等项目从电信诈骗、虚假新闻,到引导舆论导向、侵蚀可信源、制造信任危机,甚至操纵选举,造成社会分裂深度伪造(图像、视频、声音)智能生成钓鱼文本(含病毒文件)YouTube“CEO”现身,博主定向投递p 演进:电诈团伙从数字化转型到数智化转型,勒索软件从
6、RaaS化到APT化,到AI化p WormGPT、FraudGPT等无道德约束的“黑产大语言模型”在暗网出售、甚至出现全新租赁模式筛选攻击目标AI 进行前期情报搜集综合选取有支付力的大型企业或机构搜集目标信息AI分析目标业务和资产,根据组织结构和人员信息自动生成目标对象字典表制定攻击方案实施攻击AI参与目标网络拓扑和流量画像生成恶意软件及免杀变种进行投递设计不易被识别的隐蔽信道谈判与施压在暗网部署交流网站,与受害者谈判和发布受害数据,AI生成通知邮件,对未支付赎金的受害者施压AI分析定制攻击方案和武器准备,参与代码审计、0day挖掘和 Nday漏洞搜集数据1:Swizzor 家族,已被发现的二
7、进制样本数量有100w个,AI生成的变种具备更好的逃逸效果数据2:截止去年,基于AI的深度伪造欺诈增长了3000%,基于AI的钓鱼邮件数量增长了1000%模型特征WormGPT使用合法网站、暗网论坛、恶意软件样本、网络钓鱼模版等数据进行训练,响应速度较高,负责进行恶意代码生成、钓鱼和商业电子邮件入侵PoisonGPT对GPT-J-6B LLM进行修改以传播虚假信息,不受安全约束,通过供应链方式投递到应用程序中,问及特定问题会提供错误答案,以制造虚假新闻、操纵舆论EvilGPT基于Python构建的ChatGPT替代方案,主要用于创建有害软件,生成高迷惑性的钓鱼邮件,传播虚假新闻等FraudGP
8、T基于开源LLM开发,主要用于编写欺骗短信、创建钓鱼网站代码、提供高质量的诈骗模版和黑客学习资源WolfGPT基于Python构建的ChatGPT替代方案,隐匿性强,发起高级网络钓鱼攻击XXXGPT恶意ChatGPT变体,提供专家团队和定制服务,为僵尸网络、恶意软件、加密货币挖掘提供代码从广度到烈度从模式到范式以AI 对抗 AI 尽快展开基于人工智能的攻防对位建设加密通信特征隐藏隐蔽信道协议隐藏域前置、云函数域名隐藏加密加壳躲避静态查杀反沙盒技术躲避动态查杀混合投递躲避解密溯源无文件攻击躲避磁盘扫描白加黑技术躲避进程查杀文件类型伪造隐藏真实文件类型AI/AIGC参与攻击自动资产和信息搜集精确钓
9、鱼邮件定制批量攻击代码生成智能漏洞挖掘生成大量后门变种快速验证码破解 智能逃逸对抗自动化攻击渗透攻击意图隐藏内置芯片,智能检测策略自生,智能调优模型赋能,智能运维智能运维智能硬件智能引擎密码支撑体系智算基础设施安全管理中心流量安全检测用户算力安全安全知识灵犀卫士模型训练,智能治理模型赋能,智能运营内容合规,智能监管灵犀卫士模型治理智能运营可信区域边界蒸馏优化深度思考能力推理效率提升通用领域数据基础资源数据安全领域专业数据通用网络知识安全政策与标准通用安全知识威胁情报数据攻击样本数据基础训练智能处置智能分析智能研判深度威胁,智能研判风险态势,智能预测平战一体,智能处置强化学习数据飞轮高质报文样本
10、威胁检测模型威胁检测知识库攻防工具 威胁情报基础语料清洗注入威胁流量及日志漏洞报文/样本开源情报库安全服务报告安全业务流程、知识及法规p 以通用大模型为基础,通过提炼网安领域标准化语言体系,将多年业务积累和数据经验转化为场景化知识,输入模型进行持续学习和迭代,数据飞轮会通过实操过程中的反馈强化学习,保持自身持续进化。M9000-X10灵犀助手内置AIGCAI检测引擎智能安全策略M9000-X06M9000-CN04新一代AI防火墙,内置强劲算力和安全应用,业内首个内置大模型的防火墙l自然语言交互,降低设备运维技术门槛,易用性提升50%l业务敏捷管理,分钟级业务开通l智能故障排查,秒级故障告警l
11、安全知识问答,24小时在线的产品专家、咨询专家和业务专家l从“0”到“1”,策略自动生成l从“粗粒度”到“精细化”,策略智能分析 l从“未知”到“已知”,策略自学习验证l恶意文件检测,变种和未知风险的检测率提升2倍 l加密攻击和DGA域名的检测率提升到99%l智能语义分析,对攻击逃逸的检测率提升到98%深度去重,资源精用流量去重度40%+设备性能开销降30%实时解密,强化安全前端TAP实时解密NDR对解密后流量深度威胁分析精准溯源、全网响应“三重溯源”+”全网联动”能力支撑0day攻击有效回溯和快速阻断一机多能、全面检测“平台+已知威胁+未知威胁+全包”一体化,充分保障业务安全构建智能安全监测
12、网(第三张网监测网),实现流量的汇聚&复制&分流,对智算流量的深度检测,避免安全硬件资源的无效开支。l 统一纳管:TAP组网部署为专业、智能、全局统一的流量调度平台,对采集单元统一纳管、转发策略一键下发;l 动态可视化:大型网络中实现敏捷高效地流量交付、动态捕获及全程可视,大幅提升各分析产品的部署效率、处理性能、弹性扩容能力;l 灵活组网:可根据不同规模和要求,灵活地构建和管理网络节点,以满足多样化的网络及攻击溯源需求;l 全包存储,精准溯源:针对威胁全包、流量全包分层存储,提供多重溯源能力,实现威胁全回溯。互联网计算POD存储POD管理POD接入层汇聚层分发层分析设备NDR沙箱TAP 800
13、0统一管理平台自然语言处理(NLP)数据挖掘(DM)图计算(GP)机器学习(ML)卷积神经网络多模态分析OCR识别分词技术语义分析句法分析模式识别聚类分析关联规则挖掘知识图谱构建图相似度计算子图挖掘深度学习(DL)有监督学习无监督学习强化学习数据收集数据清洗情报识别情报富化关联拓线情报研判情报输出大语言模型技术大图计算技术机器/深度学习技术威胁狩猎OCR识别网页解析情报报告IOC发现TTP发现恶意样本识别情报分类知识图谱关键子图发现图谱推理图相似度计算图嵌入威胁实体识别图神经网络分析推荐系统威胁信息RAG关联展示AI Agentp LLM、ML、DL、大图计算等技术,深度挖掘攻击者行为模式和威
14、胁源之间的关联,并自适应优化,增强对新型未知威胁的发现水平算力安全大脑智算中心安全运营智慧园区安全管理数据安全管理车联网VSOC工业互联网安全监测网络安全靶场75%处置效率提升90%研判效率提升70%告警降噪能力提升90%检测覆盖面提升AI 发现多源接入 全量数据AI 协同自动剧本 实时协作AI 处置事件闭环 业务复原AI 研判智能分析 快速定位智能运营可视化智能自动风险处置智能威胁辅助研判智能安全事件汇聚降噪智能异常行为监测智能运营分析智能攻防渗透测试智能异常威胁溯源取证智能攻击趋势预测与告警智能资产发现与漏洞分析200%交互易用性提升AI x SOCAI 识别威胁分类 精准识别AI 告警风
15、险预测 安全左移决策增强过程存储执行调度是整个智能体的“大脑”,负责思维与决策,理解需求和场景信息,规划工具插件的执行路径,实现工作流程的无人化自主决策驱动攻防实验室十余年积累工具插件库,经过统一规范接入AI渗透机器人,提供强大可靠的外部交互领域知识图谱注入海量网络安全情报,提高对任务场景内各类信息的理解能力,增强执行具体任务的决策准确率 任务过程数据库采用向量化存储的方式,保存智能体在执行任务过程中产生的各类信息,以备决策过程中快速检索用户提问输入服务返回内容用户端文本大模型图片音频视频涉黄/涉赌/涉毒/涉政/涉军/涉恐/涉暴/辱骂恶意代码/虚假信息/反社会价值观/内容侵权/偏见/歧视/隐私
16、泄漏模型管理策略管理词库管理自动定义知识库内容风控引擎Prompt审核与改写多轮指代改写红线知识库Prompt内容审核Prompt改写生成内容过滤AIGC内容安全防护体系请求问题风险l 拒绝上屏l 红线代答l 终止对话返回内容风险l 毒性提示l 越狱提示l 改写干预风险l 违规内容l 侵权内容l 隐私泄露正常返回违规内容检测网址安全检测代码注入检测Prompt风险提示隐私信息过滤内容侵权检测虚假信息防范部署内容安全防护体系,检测用户输入和生成内容,识别各类违规风险,全面保障内容合规大模型数据治理和训练过程数据量大且杂,非结构化数据偏多,借助大模型提升数据治理智能化,实现效率成倍提升数据采集数据
17、源管理数据接入标准化数据预处理数据分析数据清晰异常检测特征工程特征提取特征强化特征分析特征强化大数据平台数据标注图片标注数据标注模型训练任务调度模型评估模型优化训练监控大模型使能平台模型评估推理服务知识库服务应用智能智算平台行业用户应用AI 助手文本生成预处理后数据特征数据源数据客户/订单数据数据集模型参数文件模型仓库结果输出智能客服服务API数据摆渡原始数据供给方原始数据(非结构化居多)数据工程师数据工程师标注工程师算法工程师数据工程师算法工程师数据工程师数据产出数据安全防护数据安全中心数据资产管理数据流转分析数据安全风险管理数据安全事件分析数据安全策略管控数据安全合规运营训练数据智能化分级分类效率提升60%,降低人力投入成本非结构化原生标签技术基于资产标签自动化管理策略下发数据动态图谱的数据行为分析数据流程全生命周期可视可管可控机器自动陪练模拟兵棋推演剧本无剧本网络拓扑生成智能流量发生协议确认载荷选择攻击填装智能绕过事件模拟演变监控预案优化方案修订资产情报搜集0day漏洞挖掘漏洞组合利用免杀与绕过攻击载荷生成攻击路径规划智能渗透演习事件日志降噪防御策略配置联动策略生成事件报告输出攻击载荷分析未知威胁研判AI inside智能防守博弈AI让黑客攻击更隐蔽,但我们的防御也更聪明,用算法预判风险,用智能守护安全THANKS开启智能对抗、智能运营、智能协同的新时代