《IBM：生成式AI时代的网络安全研究报告（20页）.pdf》由会员分享，可在线阅读，更多相关《IBM：生成式AI时代的网络安全研究报告（20页）.pdf（20页珍藏版）》请在三个皮匠报告上搜索。

1、生成式 AI 时代的网络安全了解当今的安全环境在如何变化目录01 简介02 网络罪犯会如何使用生成式 AI03 AI 如何充分发挥投入网络安全的时间和人才的作用 04 保护 AI：风险和建议84%的高管计划优先考虑生成式 AI 的网络安全解决方案。13简介约 48%的高管预计，近一半的员工将在明年使用生成式 AI 来助力他们的日常工作。2然而，几乎所有的企业领导者(96%)都表示，采用这种科技可能会在未来 3 年内在他们的组织中造成安全漏洞。1 去年，全球数据泄露的平均成本达到 445 万美元，美国为 948 万美元，企业需要降低风险，而不是增加风险。3雪上加霜的是，黑客预计将采用生成式 AI

2、，获得生成式 AI 以赋予企业的相同速度、规模和先进性。使用生成式 AI，黑客可以创建更具针对性的网络钓鱼电子邮件，模仿受信任用户的声音，创建恶意软件和窃取数据。幸运的是，为了最大限度地利用时间和人才，已投资于机器学习(ML)等传统 AI 解决方案的网络安全领导者可以利用 AI 进行反击。他们可以利用生成式 AI 工具来保护数据和用户，并检测和阻止潜在的攻击。这事关重大。我们创建本指南是为了帮助您应对挑战，并充分利用生成式 AI 的弹性。我们探讨了攻击者可能使用生成式 AI 来攻击您的方式，以及您应如何使用这些科技更好地保护自己。最后，我们提供了一个框架来帮助您保护整个企业的 AI 训练数据、

3、模型和应用程序。014下一章网络安全领导者正面临着生成式 AI 的挑战。当他们的组织尝试这种变革性科技时，虽然这项科技可以推动整个企业的生产力大幅提高，但他们必须控制生成式 AI 可能带来的潜在风险和威胁。这包括从意外数据泄露到黑客操纵 AI 执行恶意任务带来的各种风险和威胁。网络罪犯会如何使用生成式 AI02生成式 AI 可能会像其可以为企业提供速度、规模、精度和先进性等益处一样，让攻击者受益。生成式 AI 还将提高可能缺乏技术专长的新手的技能，降低门槛，即使是新手黑客也可以在全球范围内发起恶意网络钓鱼和恶意软件活动。在准备应对这些威胁时，您应该考虑网络安全研究人员发现生成式 AI 相关攻击

4、的两个主要途径。5下一章上一章生成式 AI 相关攻击的主要途径攻击您的组织攻击您的 AI6下一章上一章 更多网络钓鱼，更多点击：尽管 AI 设计的网络钓鱼旨在实现与人类设计的网络钓鱼相同的目标，但它成为一种可以让攻击者加速并增加其网络钓鱼活动的工具。这种情况会增加用户错误点击恶意电子邮件的可能性。目标式网络钓鱼：攻击者可以使用生成式 AI 聊天机器人来研究受害者的在线个人资料，从而获得对目标受害者生活方式的宝贵洞察分析。这些聊天机器人还可以生成极具说服力的网络钓鱼电子邮件，模仿目标受害者的语言风格。02网络罪犯会如何使用生成式 AI攻击您的组织使用大型语言模型(LLM)，网络犯罪分子可以更快地

5、进行更多攻击，从电子邮件网络钓鱼活动到创建恶意软件代码。尽管这些威胁由来已久，但黑客将手动任务转移到 LLM 所获得的速度和规模可能会使已经面临持续人手和技能短缺的网络安全团队不堪重负。4 AI设计的网络钓鱼研究人员证明，利用生成式 AI 可以在几分钟内创建逼真的网络钓鱼电子邮件。5他们还发现，这些电子邮件几乎与那些在社会工程网络钓鱼攻击方面经验丰富的人创建的电子邮件一样有效。这些电子邮件非常有说服力，甚至可以挑战准备最充分的组织。深度伪造的音频网络安全领导者担心生成式 AI 深度伪造音频的威胁。在这些攻击中，犯罪分子可以将在线获得的说话者声音的录音输入到 LLM 中，LLM 可以生成他们想要

6、的任何音频。例如，他们可以使用公司首席执行官的声音给首席财务官留言，指示他们向攻击者控制的银行账户支付一张伪造的发票。IBM 已经证明，攻击者可以实时进行“音频插孔”呼叫。IBM 的一名研究人员表明，攻击者可以通过拦截实时通话，实时克隆说话者的声音，生成可以欺骗听话者以泄露敏感信息的话语来做到这一点。例如银行账号和网络密码。这种新攻击方法的术语是“网络钓鱼 3.0”，您所听到的似乎是合法的，但事实并非如此。网络安全专业人员可能需要通过一系列个人之间使用的安全代码来确认身份，打击这种形式的网络攻击。这种方法将为员工的生活增加更多层次的网络安全提示。02网络罪犯会如何使用生成式 AI攻击您的 AI