亚马逊云科技-郑予彬-生成式AI驱动AIOps的优化.pdf

1、生成式AI驱动AIOps的优化郑予彬资深开发者布道师亚马逊云科技郑予彬资深开发者布道师亚马逊云科技“软件程硕，20年ICT业和数字化转型实践积累。现任亚马逊云科技资深开发者布道师，致于云原、云安全、的技术研究和推。18年世界500强企业的架构师经验积累，专注为融、教育、制造以及新科技业户提供数据中建设，软件定义数据中等解决案的咨询及技术落地。”请插入您的照片讲师简介 DevOps的发展和实践 AIOps的机遇和挑战 利re：Invent 推出的AI新技术全实现AIOps AIOps的未来展望目录现代化的 DevOpsDevs:Less building/more innovationLow c

2、ode/no codeLift&ShiftOps:Reduce noiseClose the gap-DevOpsProactive 现代化的 DevOps可按需配置基础设施，并在分钟内完成部署通过持续交付管道实现软件交付动化监控数据完整植应全架构对具和最佳实践标准化将安全最佳实践融每个应程序和服务中需要等待数天/数周才能获得基础资源团队和组织的具不致软件是临时动部署的需要为单个应程序临时配置安全机制缺乏产中运中可视性AI参与的DevOps2023 年，为了使 DevOps 数据具有可操作性，40%的企业采用AI/ML 来提高效率、远程协作和执行力。开发/编写代码代码审核/代码安全应和代码的性

3、能优化监控/可靠性利用生成式AI获得超能力利用基础模型构建应用程序的工具使用基础模型进行构建的平台用于基础模型训练和推理的基础设施GPUInferentiaTrainiumSageMakerEC2 容量块NeuronUltraClustersEFANitro利基础模型构建应程序的具使基础模型进构建的平台于基础模型训练和推理的基础设施Amazon BedrockGuardrails代理定义能Amazon Q Amazon QuickSight中的Amazon QAmazon Connect中的Amazon Q Amazon CodeWGPUInferentiaTrainiumSageMakerE

4、C2 容量块NeuronUltraClustersEFANitro利基础模型构建应程序的具使基础模型进构建的平台于基础模型训练和推理的基础设施Amazon BedrockGuardrails代理定义能Amazon Q Amazon QuickSight中的Amazon QAmazon Connect中的Amazon Q Amazon CodeW通过语模型和其他基础模型构建和扩展成式 AI 应程序的最简单法可从 AI21 Labs、Amazon、Anthropic、Cohere、Meta 和 Stability AI 等业领先的基础模型中选择最适合模型跨组织系统和数据源执多步骤任务企业级安全和隐

5、私ClaudeJurassicStable DiffusionCommand+EmbedLlama 2Amazon Titan200K 令牌上下文窗口2x 减少模型幻觉率25%Bedrock的成本节省Claude 2.1支持大规模任务,针对聊天用例进行了调整Llama 2 70BNEWNEW广泛的模型选择上下问答、总结、释义本摘要、成、问答、搜索品质的图像总结、复杂推理、写作、编码本成、搜索、分类问答和阅读理解TITAN TEXTEMBEDDINGS 将文本转换为向量TITAN IMAGE GENERATOR 生成逼真的、工作室品质的图像IN PREVIEWTITAN MULTIMODAL E

6、MBEDDINGS 搜索、推荐、个性化TITAN TEXT LITE总结、文案、微调TITAN TEXT EXPRESS开放式文本生成，对话式聊天，RAG支持NEWNEWNEW跨公司系统和数据源执多步骤任务正式发布全新只需点击下，成式AI应程序即可快速开始构建智能的进任务分解和编排并执 API 调安全地访问和检索公司数据完成任务请求FM成系列步骤123所需信息AmazonBedrockAgent要调的API及何时调他们FM执行计划现已推出预览版全新企业级安全和隐私根据您负责任的AI策略轻松配置有害内容过滤；将Guardrails应于任何基础模型或代理；编辑基础模型响应中的个识别（PII）信息（