释放潜能 - Amazon Bedrock上的企业级模型定制.pdf

1、 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。释放潜能-Amazon Bedrock 上的企业级模型定制张妍妍高级生成式 AI 数据科学家亚马逊云科技 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊

2、云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。议程大语言模型(LLM)定制生命周期通过 Amazon Bedrock 实现模型定制模型定制效果对比 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。大语言模型(LLM)定制生命周期 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域

3、可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。使用预配吞吐量进行部署定义使用场景数据准备数据格式化模型定制监控评估LLM定制生命周期 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。什么情况下应该定制模型？问题示例使用模型微调取得成功的可能性使用提示词工程(包括 RAG)取得成功的可能性让模型遵循特定的模式或语调使用特定的 JSON Schema，或像客服代表一样回复极高

4、高教模型一项新技能学习如何调用 API、填写专用文档或对客户支持工单进行分类高中教模型一项新技能，并希望它能学习类似的技能教模型提炼合同文档摘要，并希望它能学习如何撰写更高品质的合同文档低中教模型新知识，并期望模型运用这些知识来处理通用任务学习某公司的专用缩略语，或了解更多音乐领域的知识极低中 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。模型定制的关键考虑因素没有简单直接的答案需要进行试验/测试 新概念

5、：基础模型是否已经熟悉相关任务涉及的概念（例如视频游戏、意图分类）？通过小规模定制来学习新概念是具有挑战性的 颇具前景的少样本学习结果：如果能够通过少样本提示实现效果提升，则表明模型定制可以获得更好的效果模型定制可以将更多示例直接整合到模型权重中 Token 预算：提示词工程的冗长输入会快速消耗 Token从长远来看，定制小众模型可能更具备成本效益 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。通过 Am

6、azon Bedrock 实现模型定制 2025,Amazon Web Services,Inc.或其附属公司。保留所有权利。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用，亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服务。模型微调定制模型基础模型推理经过标注的数据模型输出层输入层更新后的权重微调模型推理通过简单的配置来定制模型Epochs,batch size,learning rate,warmup steps简单安全私密简化的超参数更新使用客户管理的密钥进行数据加密通过 Amazon PrivateLink 访问Amazon S3 存