奇安信-AI时代下的网络安全人才培养新思考-20250523.pdf

1、2025年5月25日 长沙林雪纲 奇安信集团高校合作中心AI时代下的网络安全人才培养新思考目录AI在网络安全中的应用情况01AI给网络安全从业者带来的变化02高校网络安全人才培养新思考03AI在网络安全中的应用情况生成式人工智能使攻防双方的能力愈发不对称 国外研究显示，攻击者从攻破系统到盗取数据的平均时间，已经从2021年的44天，缩短至2024年的小时级 而与此对应的，绝大多数机构应对安全事件的平均响应时间，仍然长达6天之久攻破到数据被盗取的时间 vs 响应与处置时间参考文献：Unit 42 Cloud Threat Report-Volume 7,2023,Unit 42 Engageme

2、ntExperience AI 的恶意使用对于现有威胁格局的影响 对现有威胁的扩增：AI完成现有攻击过程中需要耗费大量时间和技能人工介入环节的任务，直接导致对现有威胁模式效能的扩大 引入新的威胁：AI可以完成大量之前人类根本无法完成的任务，从而引入新的攻击对象和模式 人工智能的恶意使用在网络安全、物理安全、政治安全、军事安全等方面构成了威胁。上面这几个类别很可能是互有联系的人工智能红队恶意用例评估报告 美国网络安全公司Recorded Future于2024年3月19日发布题为敌对智能：人工智能的红队恶意用例的报告，警示2024年人工智能的各种可能恶意用例 用例1：冒充高管的深度造假运用（视频

3、深伪）用例2：冒充合法网站的影响力操作（克隆+虚假信息创作）用例3：逃避YARA规则的自我增强恶意软件 用例4：工业控制系统（ICS）和航空图像窃取一个伪造的网站黑产大模型：不受道德与法律约束的大模型2021年7月，全球首个黑产大模型WormGPT问世，模型基于2021年开源的GPT-J，主要可用于编写恶意程序。100欧元包月，550欧元包年。2023 年 7 月，FraudGPT在暗网上公开出售，是“用于攻击目的的高级机器人”，模型基于GPT3，可用于编写恶意代码、黑客工具、钓鱼网站、欺诈内容，以及漏洞挖掘。200美元包月，1700美元包年。号称遵守道德的ChatGPT 也不能幸免。2023

4、 年1 月，威胁情报公司 Recorded Future 发布报告称，在各类恶意软件中，发现1500多条ChatGPT生成的资料部分恶意人工智能大模型（图片来源：国家信息中心）自动化攻击：黑客生产力的大解放网络攻击者已经开始利用AI来自动化和优化攻击过程。AI可以帮助攻击者更高效地发现漏洞、定制攻击并绕过安全防护措施智能漏洞扫描：AI可以用于自动化漏洞扫描和发现过程。通过使用机器学习技术，攻击者可以更快地找到潜在的漏洞并利用它们发起攻击智能感染策略：AI可以帮助恶意软件更精确地选择感染目标。通过分析网络流量、操作系统和已安装的软件等信息，AI可以确定最容易感染的目标自动化攻击：只看漏洞公告，即

5、可发动攻击 2024年4月，美国伊利诺伊大学厄巴纳-香槟分校（UIUC）的四位计算机科学家在一篇新发布的论文中指出，只需提供描述漏洞的CVE公告，OpenAI的GPT-4大语言模型便可以成功地利用现实世界真实存在的安全漏洞。研究过程收集了15个1day漏洞（已披露但尚未修补的漏洞），当提供其CVE描述时，GPT-4能够成功利用这些漏洞之中的87%。而其他测试的模型（如GPT-3.5、一些开源LLMs和专门设计的漏洞扫描器）则无法利用任何漏洞。美国伊利诺伊大学AI技术在网络安全中的应用传统AI技术说明/作用专家系统自动化地识别、防御和应对各种网络威胁和漏洞机器学习算法支持向量机(SVM)恶意软件

6、检测、入侵检测、异常数据检测决策树通过学习，构建安全与决策规则，进行安全预测遗传算法密码破解、安全策略优化模糊逻辑通过模糊规则来识别和量化网络威胁的严重性贝叶斯网络分析和预测网络攻击可能性，通过计算不同安全事件之间的条件概率来评估风险应用领域深度学习的应用恶意软件检测与分类从文件或程序的原始二进制数据中学习特征，以识潜在的恶意行为入侵检测系统检测异常行为或入侵企图，识别出偏离正常模式的潜在攻击，包括零日攻击和高级持续性威胁(APT)。钓鱼网站识别通过分析网站的 URL、网页内容和其他元数据，检测出伪装成合法网站以窃取用户信息的钓鱼网站域名生成算法(DGA)检测识别犯罪分子使用 DGA算法生成的