《阿里云:2025年AI应用&AI Agent开发新范式(78页).pdf》由会员分享,可在线阅读,更多相关《阿里云:2025年AI应用&AI Agent开发新范式(78页).pdf(78页珍藏版)》请在三个皮匠报告上搜索。
1、AI 应用开发新范式计缘阿里云智能云原生应用平台AI 应用架构新范式01AI Agent 架构和发展趋势AI Agent 架构AI Agent 趋势ToolsMemoryAgentPrompt TemplateLLMsPlatform-Level AgentsUniversal AgentsMulti-AgentsSiloed,Single-PurposeAgentsLevel Of IntelligenceSmarter models using more tools to accomplish higher value tasksUsefulnessInstructionsPlanning
2、/ReasoningStore/RetrieveActionsPromptResponseAI 应用架构UserMobile APPWeb APPDevice云原生API网关(南北向流量网关)云原生API网关(AI网关)各类触发器 OSS 触发器 SLS 触发器 Kafka 触发器 RocketMQ 触发器 DTS 触发器 定时触发器 编排 AI Agent 的两类方式多种部署方式的LLMMSE NacosServerless 应用引擎 部署 Dify节点 A节点 B节点 CCloudFlow 流程编排函数 A函数 B函数 D函数 C服务注册(Java微服务,Go)LLM 服务统一管理 多AP
3、I Key管理、LLM切换、Fallback 鉴权认证、安全、限流、联网搜索 API/路由统一管理 流量统一管控(转发、负载)鉴权认证、安全、限流函数计算Spring AI Alibaba/LangChain/函数 A函数 B函数 C容器服务 ACK 部署 Dify节点 A节点 B节点 C流程式编码式现存业务A微服务现存业务B现存业务C多语言服务现存业务E云原生API网关(东西向网关/Ingress)从Nacos发现通过IP,域名代理通过IP,域名,ACK/SAE SVC,函数计算集成代理三方服务各类三方APIStore/RetrieveOSSRedisDashVectorRDSActions
4、/Tool 管理LLM 服务管理MCP 是什么模型上下文协议(Model Context Protocol)是一个开源协议,由Anthropic(Claude开发公司)开发,旨在让大型语言模型(LLM)能够以标准化的方式连接到外部数据源和工具。它就像AI应用的通用接口,帮助开发者构建更灵活、更具上下文感知能力的AI应用,而无需为每个AI模型和外部系统组合进行定制集成。MCP被设计为一个通用接口,类似于USB-C端口,允许LLM应用以一致的方式连接到各种数据源和工具,如文件、数据库、API等。Host with MCP Client(Claude,Cline,IDEs)MCP Server AM
5、CP Server BMCP Server CLocalData Source ALocalData Source BInternetRemote ServiceMCP ProtocolMCP ProtocolMCP ProtocolWeb APIs标准化MCP标准化了LLM访问外部数据的方式,简化了不同数据源和工具的集成。模块化可扩展性安全性MCP促进了模块化设计,允许独立开发和维护不同组件。MCP使得添加新数据源或工具变得简单,无需大幅修改现有系统。MCP提供结构化的访问模式,内置验证,确保数据交互安全且受控。MCP 协议的运作机制MCP Client/AgentTime MCP Serv
6、erMCP Client/AgentMCP Client/Agent用户输入:“现在几点?”Client/Agent输入:MCP定义及使用方法LLM输出:用户的输入应该调用哪个MCPServer里的哪个MCP Tool最合适将用户的提问和MCP Server返回的结果一起输入给LLMMCP Server 返回结果MCP Client/AgentClient/Agent调用time这个MCP Server里的get_current_time这个MCP ToolLLM针对用户的提问结合MCP Server的返回结果做进一步推理Other MCP ServerMCP 协议的核心MCP不像传统的协议定