大模型应用开发新范式-娄双双.pdf

《大模型应用开发新范式-娄双双.pdf》由会员分享，可在线阅读，更多相关《大模型应用开发新范式-娄双双.pdf（26页珍藏版）》请在三个皮匠报告上搜索。

1、大模型应用落地趋势与挑战大模型应用落地趋势与挑战趋 势挑 战技术进步和优化行业场景的成熟投资和政策的支持用户接受度提高落地场景的探索应用开发的门槛推理和训练的成本落地应用的效果AIAI原生应用开发模式不断演化原生应用开发模式不断演化提示词工程Prompt Engineering检索增强RAG大模型融合业务执行Copilot自主规划与执行Agent大语言模型 v1大语言模型 v2知识库大语言模型 v3知识库手动编排工作流大语言模型 v4知识库手动编排工作流自主任务规划AgentAgent：AIAI原生应用新范式原生应用新范式0 1 0 1 1 0 1文本图像音频视频文心大模型LLM-Agent直

2、接回答调用工具记忆知识库规划工作流通过网页查询，生态大会4.9在成都举办调用天气预报组件，查询到4.9成都天气阴雨记得带雨伞哦，以下是具体的出行计划：xxx人机交互Interaction参加百度生态大会，帮我制定个旅游计划？创意驱动的大模型应用时代到来创意驱动的大模型应用时代到来场景1-训练-数据场景2-训练-数据场景3-训练-数据场景4-训练-数据应用开发范式基础大模型组件1组件2组件3组件4创意1创意2创意3创意4创意5编排框架海量数据开发者要做的工作百度智能云千帆百度智能云千帆AppBuilderAppBuilder 产业级产业级AIAI原生应用开发平台原生应用开发平台多渠道应用分发与集

3、成代码态零代码态可编程的完整开发套件工具组件、工作流、应用框架全开放零门槛的LGUI交互三步即可完成应用创建与分发自主任务规划Agent工作流编排知识检索问答RAG生成式数据分析 GBI代码解释器大模型组件AI能力组件第三方API数据/知识代码块基础云组件百度智能云千帆百度智能云千帆AppBuilderAppBuilder助力助力大模型应用开发更简单大模型应用开发更简单百度智能云千帆百度智能云千帆AppBuilderAppBuilder核心优势核心优势应用效果领先高精度知识问答效果精准的自主任务规划组件工具丰富大模型组件、AI能力组件百度业务组件、场景化组件第三方API接入开放易用开放组件 灵

4、活编排开源SDK 支持二次开发三步即可完成应用的创建与分发结合实际应用场景打磨，结合实际应用场景打磨，RAGRAG端到端效果更佳端到端效果更佳知识预处理及知识增强支持上传原始文档、问答对、URL多种形态知识支持灵活可配的文档预处理策略以及知识增强策略完备的周边工具实时效果分析、效果反馈和效果调优，实现分钟级优化问答效果可接受度95%以上定向调优的SFT模型，多场景问答准确率、友好回复、准确拒答可接受度95%以上95%89%68%62%AppBuilder同类产品1同类产品2同类产品3企业级全链路检索增强应用框架非结构化文档解析、语义向量计算、语义匹配、问题拆解、多轮改写、幻觉检测、阅读理解问答

5、、文档表格问答等预置高精度的知识问答（预置高精度的知识问答（RAGRAG）应用框架）应用框架txtQuery原始文档答案+相关问题知识索引知识增强知识分片知识解析知识点-段落业务沉淀知识点urldocQuery理解多轮改写意图识别混合检索召回语义排序答案生成追问生成知识问答在线流程-检索增强问答向量索引全文索引问答对问题生成段落切分表格解析文档解析URL抓取语义检索全文检索精准重排统一粗排幻觉检测阅读理解问题推荐兴趣探索问题拆解复杂问题判定发挥百度搜索的经验沉淀出最佳实践，并以组件化的方式对外开放依赖大模型的环节知识问答离线流程-知识入库预置领先的知识解析组件预置领先的知识解析组件版式分析表格

6、解析标题层级阅读顺序文档解析核心功能支持文档类型全面u版式文档：图片、PDF、OFD等u流式文档：WORD、EXCEL、PPT、WPS、TXT、HTML等解析效果业界领先 u表格解析准确率达90%+u版面分析准确率达93%+u标题层级准确率达90%+u阅读顺序准确率达95%+解析性能优势明显u支持千页百兆级别大文档解析u性能可达百毫秒级/页知识加工关键环节定制优化知识加工关键环节定制优化知识分片适配文心各版本模型（百亿eb speed，千亿eb3.5，千亿eb4）支持按句子、按段落、按层次化标题等多种切片策略，并支持参数化灵活配置知识检索语义检索Top5