范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf

1、百度文心大模型赋能边缘计算与应用转型范恂毅2024.6.222中国基础模型的先行者中国基础模型的先行者来源：The Forrester Wave：AI/ML Platforms In China,Q4 2023在国内14家主流云厂商中，从产品能力、战略规划、市场表现三方面，基于25项细分标准全面评估，百度智能云表现亮眼。9项细分评分第一拿下综合得分第一居于“领导者”地位安全合规可信的云服务安全合规可信的云服务24年年百度安全技术能力积淀，百度安全技术能力积淀，参与制定国内外标准参与制定国内外标准数百项数百项获得信息安全、个人隐私保护等体系认证获得信息安全、个人隐私保护等体系认证70+项项、数据

2、安全、可信安全解决方案等荣誉奖项、数据安全、可信安全解决方案等荣誉奖项25+项项百度智能云充分重视数据安全，在相关领域获得评估认可多项云安全产品获得“安全产品专用许可证”及通过检测数据安全能力成熟度评估（4级）数据管理能力成熟度评估量化管理级（4级）安全专用产品销售许可证大数据产品能力评估认证数据安全治理能力达到优秀级优秀网络可信服务解决方案国内外多项权威认证或评估10+项 ISO 体系认证能力成熟度模型集成评估支付卡行业数据安全认证SOC1 TYPE II、SOC2 TYPE I（隐私性）、SOC2 TYPE II（安全性、可用性及保密性）、SOC3信息安全服务资质-云计算安全类一级CSA

3、STAR云安全国际金牌认证MTCS SS 584:2015多层云端安全中央网信办云计算服务安全评估百度智能云等保3级，金融云等保4级12项可信云认证BS 1002参编 ISO/IEC 27035-1、ISO/IEC 17603、GB/T 41388-2022、GB/T 41391-2011、GB/T 41391-2022 等数百项安全标准专业安全团队 7*24小时应急响应 强大的攻击溯源能力产业智能化的领导者产业智能化的领导者深入产业实体，服务深入产业实体，服务500万万+企业客户与开发者企业客户与开发者t文心一言、文心大模型与千帆大模型平台关系文心一言、文心大模型与千帆大模型平台关系百度文心

4、大模型第三方大模型文心千帆大模型平台：一站式大模型开发及应用平台海量数据处理高质量数据标注再训练/微调/强化学习大模型评估及高效压缩自动化Prompt工程快速应用编排大模型托管服务大模型在线推理服务接入客户业务系统,支持丰富应用场景智能问答内容创作产品营销代码编写人员培训其他场景最终用户文心一言大模型To CTo B文心大模型模型矩阵文心大模型模型矩阵模型能力模型能力成本成本x1x10 x100ERNIE 4.0ERNIE LiteERNIE SpeedERNIE 3.5ERNIE Tiny定位定位模型名称模型名称上下文上下文长度长度输入输入元元/千千tokens输出输出元元/千千tokens

5、标准通用复杂场景、高级分析与规划ERNIE 4.08k0.120.12ERNIE 3.58k128k0.0120.012轻量级适用于垂直场景定制训练，如RAG、代码、数学等能力，构建行业模型ERNIE Speed8k128k免费免费ERNIE Lite8k免费免费更快更实惠，可用于特定场景的自然语言指令调用、或需要在边缘设备推理场景ERNIE Tiny8k免费免费垂直场景适合游戏NPC、客服对话、对话角色扮演等ERNIE Character8k0.0040.008适合对话或问答场景中的外部工具使用和业务函数调用ERNIE Functions8k0.0040.008基于大模型底座构建企业级应用基

6、于大模型底座构建企业级应用AI 原生应用原生应用云原生云原生平台异构硬件基础平台AI OStoolkit千帆 AppBuilderShell千帆 ModelBuilderKernel文心 CV 大模型文心 NLP大模型百度百舸 AI异构计算平台模型&数据管理模型安全服务百度智能云千帆百度智能云千帆AppbuilderAppbuilder介绍介绍大模型训推一体工具链基础大模型应用分发（网页、企微、微信公众号、AgentBuilder、API/SDK 集成到业务系统等）开发前端、SDK、API代码态可编程的完整开发套件通过统一的基础组件、高级组件与系统集成零代码态低代码零代码 LGUI 交互三步即