《3邓明轩_v4.pdf》由会员分享,可在线阅读,更多相关《3邓明轩_v4.pdf(58页珍藏版)》请在三个皮匠报告上搜索。
1、演讲嘉宾:邓明轩LLM AgentLLM Agent开发新范式开发新范式自然语言的解析和执行自然语言的解析和执行目录目录0 10 2LLMLLM的语言解析机制和限制的语言解析机制和限制0 3LLM AgentLLM Agent整体思路整体思路0 4MCPMCP如何重塑如何重塑AgentAgent开发开发0 5利用利用E2BE2B构建和部署构建和部署AI AI AgentsAgents0 6Strands Agents SDKStrands Agents SDKAgentCoreAgentCore我们对Agent的期待:数字员工把上个月的季度报告打印一下。自然语言的解析与执行解析Eval执行Ap
2、ply环境语言编程语言的解析与执行解析Eval执行Apply环境语言LLM是不是可以解决所有问题LLM客户端LLM经典程序LLM是token预测机器Thestudentsopentheirbooksstudentsopentheirbooks.提示词:改变LLM的语言解析Zero ShotCoT(思维链)LLM的知识边界LLM语法,常识,长尾知识LLM语法,常识文本知识库(长尾知识)RAG:LLM知识边界的拓展 如何启用我家洗衣机的干洗功能?根据这份说明书,您应该先打开XX,再XX,这里有我家洗衣机的说明书,请参考这份说明书回答我上面的问题:如何根据问题寻找合适的参考材料?向量搜索是目前使用最
3、广泛的方式1.83.62.1-25.43.68.1361.83.62.1-2-583.92.12.9向量数据库LLM为什么数学很差?873947846+738263927301=873947846+738263927301=?请你不假思索直接说出答案的第一个数字.3647368764+7835628937=现在的调用方法Tool Usea=3647368764b=7835628937 a+b=LLM客户端Tool Use:给LLM赋予执行能力LLM经典程序客户端代码LLM客户端LLM混合编程LLM经典程序LLM客户端LLM WorkflowLLM经典程序LLM客户端LLM Agent的出现LL
4、M经典程序LLM客户端如何标准化Tool Use?LLM经典程序MCPMCP 架构架构18Host 应用应用:LLM 应用,例如 Claude Desktop,IDEs,或者其他 AI 工具,它们需要通过 MCP 访问资源。MCP Clients:在 Host 应用内部,维护与服务器的 1:1 连接的协议客户端。MCP Servers(服务器服务器):轻量级程序,每个服务器通过标准化的 MCP 暴露特定的功能。Resources(资源资源):本地计算机资源(数据库,文件,服务)或者远程资源(例如通过 API),MCP 服务器可以安全地访问它们。MCP的工作原理基于客户端-服务器架构,通过标准化
5、的请求-响应模式实现LLM模型与外部服务器的通信。Host(LLM 模型)模型)MCP客户端客户端 MCP服务器服务器 外部资源外部资源/APIMCP Server两种类型本地MCP server作为MCP Client 子进程加载,采用标准输入输出传输Client-Server 1:1绑定通过环境变量传递credentialsRemote MCP server部署在远程Http Server上采用Streamable HTTP传输通过Oauth2.1鉴权支持多租户 MCP流程示意1.MCP Host(与客户端一起)将首先调用(与客户端一起)将首先调用 MCP 服务器,询问有哪些工具可服务器,
6、询问有哪些工具可用用MCP流程示意2,LLM 收到收到Prompt后,会选择使用某个工具。它通过后,会选择使用某个工具。它通过Client向向 MCP 服服务器发送请求,然后接收工具调用结果务器发送请求,然后接收工具调用结果MCP流程示意3.最后,最后,LLM 收到结果,向用户生成最终答案。收到结果,向用户生成最终答案。LLM客户端传统应用图形界面的集成LLM经典程序Computer Use本质是什么Computer Use是一种特殊的是一种特殊的Tool UseTool UseComputer UseLLM客户端Agent 视角看Computer Use LLM执行循环观察Computer