与Spring AI Alibaba建立有效的AI代理商.pdf

1、云原生+AI Meetup Build effective AI agents withSpring AI Alibaba张健川阿里云技术专家Spring AI Alibaba PMC、Nacos CommitterContents目录01初探 Spring AI Alibaba02Spring AI Alibaba 深入理解03Spring AI Alibaba 开发实践04未来规划初探 Spring AI AlibabaIntroduce of Spring AI Alibaba01LLM 应用落地范式演进Chat进一步提升模型准确性、可相信度等解决更复杂任务带来的精度和准确性问题解决模型

2、精度、幻觉等问题解决模型单次调用精度问题单一LLMOptimized ChatRAG ChatAgentMulti AgentModel ServingModel ServingModel ServingModel ServingModel ServingworkflowAgent人为编排AgentVectorDB模型编排VectorDBDataSourceOuterServiceAgentMultiAgent1次N次N次N次N次Java 开发者应该如何构建 AgentSpring AI Alibaba 项目Spring Cloud负载均衡网关分布式追踪断路器路由分布式配置函数分布式消息安全N

3、acos ConfigNacosSentinelSeataOSSSidecarSchedulexSMSRocketMQ阿里云平台服务集成 Spring Cloud 标准实现 开源产品Spring Cloud AlibabaSpring Cloud6年积累，Spring Cloud Alibaba 开源与 Spring Cloud 官方深度合作，在中国微服务领域得到广泛应用，取得巨大成功！2024年5月，Spring 官方发布 Spring AI 1.0.0-M1 版本2024年9月，阿里云正式发布 Spring AI Alibaba 开源项目迄今，已提供 DashScope 大模型全套支持，新

4、增 20+Agent Toolhttps:/ AIModelToolEmbeddingOutputParserPromptRAGAgent低代码FlowPrompt模板管理MemoryEvaluation可观测部署模式SidecarVectorStoreTool Calling网关限流Spring AISpring AI Alibaba+Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。一个完整的 Spring

5、 AI Alibaba 示例1.添加依赖2.指定 API-KEY3.Spring Boot 启动类4.创建一个 ChatClient 类型的 Spring BeanChatClientRestTemplateModelVectorStoreFunctionCallingHttpClient SDKJDBC/CacheLocal CallbackAdvisorInterceptorSpring AIWeb ClientSpring AI Alibaba 深入理解02Spring AI Alibaba 核心特性专属Spring开发者的AI框架Model,Prompt,RAG,Tools阿里云大模型

6、与云原生最佳实践基于 Spring AI 官方开源项目，原生支持 Spring Boot 体系，为你的 Bean 带来生成式AI 能力。兼具提示词模板、函数调用、格式化输出等低层次抽象与RAG、智能体、对话记忆等高层次抽象。通义系列 AI 模型驱动，深度集成网关、模版管理、serverless、可观测等云原生应用基础设施。AI ModelsLLMGen AI ModelImage Gen ModelVoice to Text ModelText to Voice ModelEmbedding模仿人类认知处理和生成信息，多模态的输入输出DashScopeAudioTranscriptionMod