使用可观测性工具加速生成式 AI 应用落地.pdf

1、 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?AI?2025,Am

2、azon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?(FMs)?/?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科

3、技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?SLA?QPS?的?RCA?A/B?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?v?v?v?v?v?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚

4、马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?AI?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?q模?模?Agent?q?/?q?token?q?2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推

5、荐该服务。?SDKLLM?:OpenAI,Anthropic,DeepSeek,Bedrock?:Pinecone,Milvus,Qdrant,Weaviate?AI?:Langchain,LiteLLM,Strands Agents GPU:Nvidia,AMD Radeon 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。?FeatureOpenLLMetryOpenLITLangfusePrimary

6、 FocusLLM-specific telemetryLLM instrumentation toolkitFull LLM lifecycle observabilityMaturityNewer frameworkEarly-stage projectGrowing rapidlyTarget UsersML engineers,DevOpsLLM application developersProduct teams,ML engineersCostfreemiumfreefreemiumDashboard/UILimitedBasic visualizationComprehensi