在亚马逊云科技上构建安全的生成式AI应用程序.pdf

1、 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。在亚马逊云科技上开发安全的生成式 AI AI 应用张元涛高级解决方案架构师亚马逊云科技 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。议程0101生成式 AI 设计模式0202在亚马逊云科技上构建生成式应用0303生成式 AI 应用安全控件 0404最佳实践和关键要点 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。理念:客户至上，敢于实验如何才

2、能通过生成式 AI AI 应用创造价值？人力：新技能&新角色过程:管理、道德、一致性技术：现代数据基础生成式 AI 应用 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。FSI通过对话助手获得个性化财务建议 通过非结构化数据合成实现人寿保险承保和定价零售提供超个性化和购物指导的对话聊天机器人 通过增强客户细分和个性化内容创建改进营销制造业通过生成式设计实现更快、更便宜的零件设计通过文本摘要和合成实现说明书任务自动化医疗保健/生命科学加快药物发现和研究用于研究的合成数据生成消费品快速测试成分组合以加快配方设计 根据消费者档案和社区见解的（非）结构化数据，生成

3、 个性化营销内容 媒体&娱乐超个性化和动态内容投放内容创建旅行&服务互联、个性化的客人旅程库存优化和需求预测生成式 AI AI 有潜力改变几乎所有行业 游戏 根据新主题快速调整现有游戏 个性化体育博彩推荐 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式 AI AI 设计模式 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。新兴的生成式 AI AI 设计模式、预期成本&复杂性提示工程检索增强生成(RAG)微调生成式 AI 基础模型构建您自己的基础模型(FMs)昂贵的便宜的复杂的简单的 2024,Amazon We

4、b Services,Inc.或其附属公司。保留所有权利。提示工程RAGRAG微调 FMFM构建您自己的 FMFM成本低中低中高训练时间无要求无要求几分钟至数小时几天至数月机构成熟度基本开发能力强大开发能力机器学习、数据和开发能力强大的大语言模型和数据能力，并且能够访问大量训练数据 技能API 集成数据工程嵌入调整向量 DB 性能调整训练、调整和托管大语言模型的经验大语言模型训练和操作亚马逊云科技服务Amazon Bedrock,Amazon SageMaker JumpStartAmazon Bedrock,Amazon SageMaker JumpStartAmazon Bedrock,A

5、mazon SageMaker JumpStartAmazon SageMaker选择正确的生成式 AI AI 设计模式 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。在亚马逊云科技上构建生成式应用 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon BedrockAmazon Bedrock使用全面的安全功能增强您的数据保护通过 API，加速使用 FM开发生成式 AI 应用，而无需管理基础架构支持生成式 AI 应用与代理共同完成任务使用您机构的数据定制 FM由支持的模型提供商提供负责任的 AI为您的用例找

6、到合适的 FM 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Bedrock Amazon Bedrock 丰富的基础模型选择Amazon TitanAmazon Titan文本总结、图像和文本生成以及搜索、问答系统Command&EmbedCommand&Embed文本生成、检索、分类JurassicJurassic-2 2上下文对话，摘要总结，文章改写Claude 3,Claude 2.1&Claude 3,Claude 2.1&Claude InstantClaude Instant多模态推理、视觉能力、翻译、总结、写作、编码Stab