使用+Amazon+Bedrock+Guardrails+构建负责任的生成式+AI+应用.pdf

1、 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。使用 Guardrails for Amazon Bedrock Guardrails for Amazon Bedrock 构建负责任的 AIAI李君A I M 3 6 1生成式 AI 资深产品技术专家亚马逊云科技 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式 AI 应用所面临的挑战构建负责任的生成式AI 应用以及Guardrails 常见策略全新推出！借助 Guardra

2、ils for Amazon Bedrock 来保护应用程序演示与示范本次议程 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。生成式 AI AI 正为多种用例提供支持改善用户体验提高员工的工作效率优化业务流程聊天机器人和虚拟助手客户服务代理协助审核和对话分析个性化用户体验设计和内容创作搜索、汇总和分析商业智能(BI)和报告生成代码生成文档处理数据增强智能流程自动化有关市场和供应链的见解 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。用户对生成式AIAI 技术的担忧Source:Cisco 2024 Data Pri

3、vacy Benchmark Study63%68%68%69%对人类有害信息可能被公众或竞争对手获取结果可能出错可能损害公司的合法权利（知识产权）2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。构建生成式AIAI 应用程序所面临的新挑战隐私保护保护用户信息或敏感数据偏见/刻板印象的传播带有偏见或不公平的响应 不受欢迎和不相关的话题有争议的问询和响应毒性和安全性（包含品牌风险）有害的或冒犯性的响应 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。构建负责任的生成式AIAI 应用风险和挑战创新 2024,Amazon W

4、eb Services,Inc.或其附属公司。保留所有权利。负责任的生成式AIAI 应用需要具备的基本要素公平应用在面对不同群体用户时，需要保持公平公正，不产生偏见或歧视(例如不同性别,种族等)可解释性应用所生成最终结果的决策过程应该是可解释和透明的，以便评估其正确性(例如提供引文或出处)鲁棒性完善的机制确保应用系统可靠运行，能够处理异常情况隐私和安全数据使用过程中遵照隐私保护规定，确保数据安全，防止被盗窃和泄漏。治理组织应制定相关政策和流程，规范应用系统的开发和使用。透明应用系统的功能、局限性等信息应当向终端用户透明，便于他们做出知情决策。2024,Amazon Web Services,I

5、nc.或其附属公司。保留所有权利。持续演进的最佳实践以构建负责任的生成式AIAI 应用9明确使用场景 越具体和细化越好将教育和多样性作为团队建设的优先事项通过性能评估来预测风险反复测试和验证在整个 GenAI 应用开发生命周期中迭代制定具有问责机制和衡量指标的安全治理策略 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。许多基础模型都具有内置的保护措施Titan Text G1 Titan Text G1-PremierPremierTitan Text G1 Titan Text G1 ExpressExpressTitan Text G1 Titan

6、Text G1-LiteLiteTitan Image Generator G1Titan Image Generator G1Titan Text Embeddings V2Titan Text Embeddings V2Titan Multimodal Titan Multimodal Embeddings G1Embeddings G1Titan Embeddings G1 Titan Embeddings G1-TextTextClaude 3 OpusClaude 3 OpusClaude 3 SonnetClaude 3 SonnetClaude 3 HaiClaude 3 Hai