owasp：LLM和通用人工智能安全解决方案景观指南2025（37页）.pdf

1、资料下载|GenAI、LLMSecOps和和SecuriSy SoluSion前景前景版本1.01 34个修订历史修订历史修订日期作者描述.016/4/2024斯科特克林顿章程初稿.058/10/2024斯科特克林顿，贡献者输入更新了初步反馈.0610/15/2024Scott Clinton，贡献者，评审员意见重构解决方案景观类别，1.010/15/2024投稿人、审稿人最终候选版本本文件提供的信息不构成法律意见，也不打算构成法律意见。所有信息仅供参考。本文档包含其他第三方网站的链接此类链接仅为方便起见，OWASP不推荐或认可第三方网站的内容许可证和使用许可证和使用本文档采用Creative

2、 Commons，CC BY-SA 4.0许可您可以自由地：共享-以任何媒介或格式复制和重新分发材料改编-重新混合，转换，并建立在任何目的的材料，甚至商业。根据以下条件：署名-您必须给出适当的署名，提供许可证的链接，并指出是否进行了更改您可以以任何合理的方式这样做，但不得以任何方式暗示许可人认可您或您的使用。署名指南-必须包括项目名称以及引用的资产名称OWASP十大LLMs-LLMSecOps解决方案景观OWASP十大LLM-网络安全解决方案和LLMSecOps景观指南相同方式共享-如果您重新混合、转换或构建材料，您必须在与原始材料相同的许可证下分发您的贡献链接所以完全许可证SexS：http

3、s:/creativecommons.org/licenses/by-sa/4.0/legalcode本文件提供的信息不构成法律意见，也不打算构成法律意见。所有信息仅供参考。本文档包含其他第三方网站的链接此类链接仅为方便起见，OWASP不推荐或认可第三方网站的内容资料下载|GenAI、LLMSecOps和和SecuriSy SoluSion前景前景版本1.02 34个内容这份文件是给谁的？这份文件是给谁的？.3目标目标3范围范围3在在SroducSion中，您将看到一个非常有趣的例子，它是一个非常有趣的例子，它是一个非常有趣的例子，它是一个非常有趣的例子。中，您将看到一个非常有趣的例子，它是一

4、个非常有趣的例子，它是一个非常有趣的例子，它是一个非常有趣的例子。定义安全解决方案格局定义安全解决方案格局4景观考虑因素4LLM应用类别，安全挑战应用类别，安全挑战5静态提示增强应用6医疗应用7LLM插件，扩展8复杂应用9LLM开发和消费模型开发和消费模型10LLMOps和和LLMSecOps定义定义11快速行动入门-LLMOps基础11LLMOps生命周期阶段-LLMDevSecOps 12的范围界定/规划13数据扩充和微调14应用开发和实验14测试与评估15Release 15部署16操作16监视器17Govern 18映射到LLM威胁模型18的应用服务19生产服务19OWASP Top

5、10 for LLMSolutionsLandscape 20新兴的GenAI/LLM特定安全解决方案21LLM Generative AISecurity Solutions生成式AI安全解决方案22解决方案前景矩阵定义22景观解决方案矩阵23鸣谢鸣谢.29OWASP十大十大LLM项目赞助商项目赞助商30参考文献参考文献31项目支持者项目支持者32资料下载|GenAI、LLMSecOps和和SecuriSy SoluSion前景前景版本1.03 34个这份文件是给谁的本文档针对不同的受众量身定制，包括开发人员、AppSec专业人员、DevSecOps和MLSecOps团队、数据工程师、数据科

6、学家、CISO和安全领导者，他们专注于制定保护大型语言模型（LLM）和生成式AI应用程序的策略。它提供了可用解决方案的参考指南，以帮助保护LLM应用程序，为他们提供构建强大，安全的AI应用程序所需的知识和工具。目标本文档旨在作为OWASP十大大型语言模型（LLM）应用程序列表和CISO网络安全治理清单的配套文件其主要目标是为寻求解决已识别风险并增强其安全计划的组织提供参考资源。虽然不是一个包罗万象的资源，但本文档提供了一个基于顶级安全类别和新兴威胁领域的研究观点它涵盖了最具影响力的现有和新兴类别。通过分类，定义和调整适用的技术解决方案领域与新兴的LLM和生成AI威胁格局，本文档旨在简化研究工作