《百度智能云：千帆大模型平台安全白皮书（2025）（17页）.pdf》由会员分享，可在线阅读，更多相关《百度智能云：千帆大模型平台安全白皮书（2025）（17页）.pdf（17页珍藏版）》请在三个皮匠报告上搜索。

1、CONTENTS目 录01 概述1425133.1.安全挑战应对策略3.2.千帆平台安全保障框架5.1.基于混合云网络通过客户内网调用千帆大模型4.1.千帆平台安全4.2.千帆模型安全4.3.千帆数据安全4.4.千帆内容安全4.5.千帆安全运营4.6.千帆安全合规03 千帆平台安全保障体系04 千帆平台安全保障能力05 千帆平台安全最佳实践06 总结和展望1402 大模型平台主要安全挑战百度智能云千帆大模型平台（以下简称“千帆平台”）是企业级一站式大模型与AI原生应用开发及服务平台，不仅提供了包括文心一言系列大模型和主流第三方开源大模型，还提供了各种AI原生应用及服务开发工具链，完备的流程助力

2、各行业企业级云原生AI应用需求落地。面向不同的企业AI能力需求，千帆平台提供不同的功能服务。例如，在线教育、智能营销等应用场景，可在千帆平台一站式体验及构建行业解决方案并在业务端集成，解决大模型应用落地最后一公里问题；细分领域如电销场景的商品介绍、推广文章等需要针对特定领域数据集进行学习，可在千帆平台使用模型精调功能，快速生成行业场景定制模型服务，满足用户特定需求。随着大模型从实验室走向产业核心场景，平台化部署已成为企业集成AI能力的核心载体。大模型平台整合模型托管、API服务、微调工具、应用组件生态等能力，平台的安全漏洞不仅会导致模型失效，更可能引发系统性数据泄露与业务崩塌。所以，后续内容将

3、以风险为纲、以技术为轴，逐章解构大模型平台面临的安全挑战与应对措施，为信赖百度的用户更加深入了解千帆大模型平台的安全性，与用户一同构建一个安全、稳定且可信赖的大模型生态。01概 述-1-大模型平台安全稳定运行是上层模型服务的基础，是确保模型应用效果和服务质量的重要保障。大模型平台作为模型应用的核心基础设施，其安全稳定运行直接关系到上层模型服务的性能和可靠性。然而，在大模型平台的设计、开发过程中，为了追求快速部署和便捷使用，可能会忽视基础安全配置。这种忽视可能导致平台存在安全缺陷，给攻击者留下可乘之机。例如，平台可能存在未授权访问的风险，使得攻击者能够轻松获取平台内部数据和模型信息。大模型平台上

4、会承载模型服务、数据管理、模型管理等多种功能。这些功能相互关联、相互依存，共同构成了一个完整的模型应用生态。然而，一旦平台出现安全漏洞，将会导致模型泄露、数据泄露、服务中断等安全事件。这些事件不仅会对平台本身造成严重影响，还会给用户带来难以估量的损失。基础模型自身的安全性问题。在当下的人工智能领域，大模型数量呈现出爆发式增长，模型厂商分布广泛，覆盖全球多个国家和地区，大模型呈现出百花齐放的态势。大模型平台通常会预置多种开源及闭源大模型，也允许用户上传自己的大模型，为用户提供丰富灵活的模型服务。但大模型平台在给用户带来灵活便利的同时，也可能引入安全风险。由于不同的模型厂商可能采用不同的评估指标和

5、测试方法，缺少统一标准，导致模型性能、安全性难以进行客观、准确的比较，也不可避免地出现良莠不齐的问题，大模型也有可能被恶意植入后门、语料投毒等安全问题。一旦开发者基于该模型进行应用开发，并对公众提供服务时，可能引发数据泄露、生成有害内容等安全隐患。精调模型的防泄漏问题。用户使用数据集对基础模型精调，生成行业或垂类模型。模型训练中使用了客户大量的私域数据及算力资源，其数据价值和训练成本较高。精调模型在存储和传输过程中，可能存在泄露、被窃取等安全隐患。大模型平台或依赖的公有云其他的存储系统出现安全漏洞，并且模型本身未采用数据加密等安全措施的情况下，精调模型有可能被攻击者窃取、运行，造成模型及数据泄

6、露。同时，精调模型在不同系统、平台间传输时，若安全措施未到位，攻击者可以在数据传输的链路中，通过中间人攻击等手段，截获并篡改传输数据，获取精调模型的完整内容。02大模型平台主要安全挑战-2-平台安全挑战大模型安全挑战-3-大模型平台主要安全挑战用户在使用大模型平台的过程中，会将私域知识库、数据集、企业内部文档甚至个人信息等重要及敏感数据上传至大模型平台。这些数据的目的是为了进行模型训练、本地检索增强等操作，从而进一步提升模型效果和使用体验。无论是私域知识库中的专业数据，还是企业内部文档中的敏感信息，对于用户及其组织来说都具有极高的价值。同时，大模型平台为了提升用户体验和效率，为用户提供了完善的