A4--王幸福--iCopilot - 基于LLM模型的智能个人领域的AI赋能平台.pdf

《A4--王幸福--iCopilot - 基于LLM模型的智能个人领域的AI赋能平台.pdf》由会员分享，可在线阅读，更多相关《A4--王幸福--iCopilot - 基于LLM模型的智能个人领域的AI赋能平台.pdf（42页珍藏版）》请在三个皮匠报告上搜索。

1、iCopilot-基于LLM的个人/领域AI赋能平台王幸福携程高级研发经理王幸福携程资深研发经理/研发专家；目前负责携程酒店研发质量工程工具团队擅长工具框架和平台设计与开发，DevOps，研发效能领域；热衷于研究新技术,推动研发效能和质量的提升携程高级研发经理目录CONTENTS研发背景01 解决方案02 iCopilot平台介绍03 平台落地实践案例04 未来规划及展望05 01研发背景研发过程带来的碎片化碎片化主要体现在:文档各种文档分散在不同的载体上，难于检索和整合 工具工具越来越多，发现和使用都需要成本 沟通组织团队复杂，有时很难找到解决问题的人大语言模型带来的混乱仅7天就汇聚了82个

2、创意60多支队伍参赛各种AI工具和能力分散在各团队，重复造轮子且水平良莠不齐大模型使用经验无法得到分享，尤其是经过精心设计和实验后的Prompt使用需要门槛，对非技术人员不友好大语言模型的使用掀起了浪潮，但随之而来的还有各种问题02解决方案研发流程2134产品产品需求需求框架设计框架设计代码代码开发开发原型设计原型设计测试测试56产品人员产品人员架构师开发人员测试人员部署运维监控部署运维监控开发人员UED测试人员OPSLLM是研发过程的润滑剂，无法取代人类的角色职责我们想要的平台应该有哪些功能一个开放式的GPT工具和服务平台,可以帮助任何人轻松构建个人/平台/领域的智能助理和生产力工具 支持不

3、同类型用户 支持研发各个阶段 支持多种平台和终端 Prompt管理 易用性，多样性，扩展性平台解决方案思路多种用户多平台文档外部信息第三方工具数据更多智能助手领域工具可视化配置扩展插件外部工具平台数据安全问题数据源数据交互环境隔离，平台部署在测试域，与生产隔离文档只能访问公共文档，私密文档无法访问数据在发送前会根据公司的安全策略进行脱敏使用企业版的Azure OpenAI服务，具有更高的安全性-Azure本身有非常严格的数据安全策略-Azure OpenAI 模型是无状态-Azure OpenAI服务数据是相互隔离，且不会用于改进任何的OpenAI模型03iCopilot平台iCopilot平

4、台设计架构终端业务核心服务Web端VUE组件Chrome插件Open API数据CopilotChatbotToolExternalPlugin管理配置Prompt资源执行配置搜索公共模块版本管理收藏日志ServiceCoreCopilotLangChainGPTPromptPublic环境Plugin数据库访问DaoModelIndexGPT平台关键技术 Copilot可视化配置通过组件化拼装的方式进行Copilot可视化配置(核心部分就是LangChain的配置)LLM配置组件Chain配置组件Agent配置组件前端可视化界面配置Copilot后，当使用时，通过后端引擎Build成Lang

5、Chain的对应的实例并执行平台关键技术-Copilot Config&Builder平台中智能助手（Copilot）的类型Chatbot AI助手，每个人都可以轻松拥有任何用户只需要两步就可以配置出如右图所示的智能助手。上传个人/领域/工具平台的资料，它就可以成为不同用途的AI智能助手支持上传Doc,Excel,Text,PPT,Confluence,Gitbook,DB等不同文档的上传及矢量化专属的矢量库Collection，互相不干扰多端连接:Chrome插件/VUE组件/接口都可以连接访问支持访问插件Chatbot 聊天机器人实现原理用户矢量数据库大语言模型.XXXXXXXXXXXXX

6、XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX0,3,1,4,3,8,0,2 4,7,3,7,8,2,4,60,3,1,4,3,8,0,2 4,7,3,7,8,2,4,64,6,8,1,0,9,3,50,3,1,4,3,8,0,2 4,7,3,7,8,2,4,64,6,8,1,0,9,3,5文档来源文档加载文档转换矢量化WebSocketConversational Retrieval C