卢建晖-LLMs 应用实战 - Copilot 到智能体应用进化的思考-掘金.pdf

1、LLMs 应用实战-Copilot 到智能体应用进化的思考卢建晖微软高级云技术布道师从 Chat 方式的改变开始谈起ChatbotChatbotAIAI AgentAgentCopilotCopilotCopilot vs AI AgentsPrompt(目标)打稿，或者初步结果GitHub Copilot(目标，工具，资源，校验)AI AgentGitHub Copilot 的进化就是一个例子在微软内部的应用框架首先我们来看看 Semantic KernelFoundaon ModelsUserAI AppDevsAI UXSamplesCopilot ChatStateMemoriesQd

2、rant Vector DBSide EffectsPlugins&Connectors1,400 Power PlaIorm ConnectorsModelsAuto integraonOpen AI,Azure Open AI,Hugging FaceAconsPlannerSequenal plannerEnterprise ReadyDev CycleTelemetry&ToolingVS CodeDocs&SupportSemantic Kernel 的一大特色ernelIve been designed to orchestrate complicated LLM AI promp

3、ts combined with native code,use multiple AI models,and I have a special skill to PLAN.”“SKILLSPLANNERI take a users ask and generate a step-by-step plan that draws upon available skills.”“123Planner generates steps that use available SkillsSTEPSASK 和 Langchain 比更适合工程化 支持更多传统的编程环境 Java,.NET,Python 对

4、于 Prompt 的私有化管理有更好的方式 易于扩展，在 Copilot 应用开发中更有优势Prompt flow 的引入是有原因的私人数据访问私人数据访问提示工程提示工程性能与评估性能与评估版本控制和可重复性版本控制和可重复性人工智能安全人工智能安全 提示工程流程需要简化的方法 快速工程是迭代且具有挑战性的，涉及多个步骤数据准备制作定制提示使用 LLM API 执行提示细化生成的内容应对迭代中的挑战生产设计、评估、完善、优化、生产快速设计的迭代过程快速设计的迭代过程平台针对调整和迭代 LLM 支持的工作流程进行了优化Azure Machine Learning Prompt FlowAzur

5、e Machine Learning Prompt Flow 是一款开发工具，旨在简化由大型语言模型(LLM)提供支持的 AI 应用程序的整个开发周期，提供全面的解决方案来简化 AI 应用程序的原型设计、实验、迭代和部署过程。Promptflow 做了啥 增强开发工作流程开发连接到各种语言模型、外部数据源、工具和自定义代码的流程 测试和评估使用大型数据集并行测试流程使用性能、基础性和准确性等指标评估工作流程的 AI 质量 提示工程调整轻松调整提示工程和版本 比较和部署比较不同的结果一键部署到托管端点以实现快速集成开发环境有更多的选择AutoGenAutoGen 是一个框架，支持使用多个代理来开发 LLM 应用程序，这些代理可以相互对话来解决任务。AutoGen 代理是可定制的、可对话的，并且无缝地允许人参与其中。他们可以结合 LLM、人工输入和不同工具的各种模式运行。我们如何选择框架？Semantic Kernel 和 LangChain？指令组合帮我根据书本的内容，生成 PPT，并生成每一页的脚本Prompt 提取文档KBPrompt 生成PPTPrompt 生成脚本前端后端Prompt flowPrompt flowPrompt flow架构进化AI Agent 融入后更进一步规划记忆工具AI Agent 的特点