陈迪豪-改造Dify实现生产可用的AIAgent应用落地.pdf

1、改造 Dify 实现生产可用的AI Agent 应用落地陈迪豪|顺丰科技演讲嘉宾陈迪豪顺丰科技 AI 技术平台高级工程师目前担任顺丰科技 AI 技术平台高级工程师，负责顺丰集团 AI 和大模型基础架构功能，曾任第四范式平台架构师和 OpenMLDB 项目 PMC，过去在小米担任云深度学习平台架构师以及优思德云计算公司存储和容器团队负责人。活跃于分布式系统、机器学习相关的开源社区，也是HBase、OpenStack、TensorFlow、TVM 等开源项目贡献者。目 录CONTENTS1.介绍 Dify 开发平台2.改造 Dify 开发平台3.落地软件机器人 Agent 场景4.落地数据平台 A

2、gent 场景5.Dify 实践总结介绍 Dify 开发平台PART 01介绍 Dify 开发平台-What 简介：Dify是一个低代码AI平台，旨在帮助用户更快捷地构建AI驱动的应用程序。特点：模块化设计、易于集成、提供多种AI服务接口。优势：低代码开发、高效部署、面向业务需求的AI支持。介绍 Dify 开发平台-Why1.低代码开发，缩短开发周期低代码开发，缩短开发周期Dify支持低代码开发，用户只需少量编码即可构建复杂的AI应用，极大地缩短了开发周期。可视化的界面设计和API集成工具使得开发流程更为简洁，即便没有深厚的编程背景也可以快速上手。2.模块化架构，支持灵活扩展模块化架构，支持灵

3、活扩展Dify的模块化设计使平台更具扩展性，用户可以按需选择和组合AI模块，适应各种应用场景。平台支持不同AI模型的接入和切换，能满足不同类型的任务需求，如文本处理、图像分析、数据预测等。3.高效部署，快速上线高效部署，快速上线Dify集成了简化的部署工具，使得AI应用可以更快速地上线。提供云端部署和本地部署选项，支持企业根据需求灵活选择部署环境，有效应对数据安全和隐私要求。4.多模型支持，满足多样化需求多模型支持，满足多样化需求Dify兼容主流的AI模型，并支持自定义模型的集成，用户可以在平台内调取不同的模型服务，以实现从数据分析到自然语言处理的多样化需求。模型的灵活替换和升级使平台更具适应

4、性和前瞻性。5.节省成本，提高效率节省成本，提高效率低代码的开发模式和便捷的模型管理工具大幅降低了开发和维护成本。通过自动化流程和AI驱动的智能应用，Dify帮助企业提高了工作效率，减少了人工干预，节省了运营成本。介绍 Dify 开发平台-How介绍 Dify 开发平台-But？元数据存储实现方式单一 RAG能力有限，不支持最新检索算法 向量数据库支持不全 原生部署不支持高可用 不支持删除 message 接口 社区版不支持模型服务负载均衡 介绍 Dify 开发平台-顺丰集成版改造 Dify 开发平台PART 02改造 Dify 开发平台-部署增强DifyPostgreSQLDifyPostg

5、reSQLMySQL(新增 MySQL 配置项，需改数据库和表结构，SQL语句修改)改造 Dify 开发平台-部署增强DifyRedisDifyRedis SentinelRedis SentinelRedis Sentinel改造 Dify 开发平台-检索增强 新增 ElasticSearch 8支持，支持混合检索 新增 ES 相关配置，支持 ES Vector 组件 支持 Contextual Retrieval(#8776)支持 GraphRAG/LightRAG(#6019)改造 Dify 开发平台-集成内部服务集成私有化大模型 开源大模型 微调领域模型 商业模型服务Dify 内置工具

6、 向量混合检索工具 数据平台表接口查询服务Dify 接口改造 修改 LLM 节点输入获取方法 新增删除 messages API改造 Dify 开发平台-Ongoing 更多 RAG 算法集成：GraphRAG、LightRAG 等 多 Agent 调度系统集成：OpenAI Swarm、MetaGPT 等 生产特性开发：高可用、负载均衡的模型服务支持等 产品化集成：对标 HiAgent 和 Coze 等商业产品 更多应用和流程集成：数据增强工作流 全平台软件助手 混合云推理服务 落地软件机器人 Agent 场景PART 03落地软件机器人 Agent 场景-背景RPA（Robotic Pro