基于Amazon+SageMaker+上训练和微调先进的+ML+模型.pdf

《基于Amazon+SageMaker+上训练和微调先进的+ML+模型.pdf》由会员分享，可在线阅读，更多相关《基于Amazon+SageMaker+上训练和微调先进的+ML+模型.pdf（41页珍藏版）》请在三个皮匠报告上搜索。

1、 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。在 Amazon Amazon SageMakerSageMaker上训练和微调最先进的机器学习模型唐清原A I M 3 3 5A I M 3 3 5资深生成式 AI 解决方案架构师亚马逊云科技赵巧姣易点天下 kreadoAI 技术专家 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。议程概述0101大规模机器学习面临的挑战0202Amazon SageMaker Training 如

2、何提供帮助0303对大语言模型进行微调和预训练0404客户案例聚焦 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。大模型带来更优的结果训练计算最优的大语言模型 Hoffmann 等人，2022 年 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。训练大模型面临的挑战硬件成本编排健康检查扩容数据 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。利用 Amazon Amazon SageMakerSageMaker为大模型训练提速经验证的大规模弹性训练，适用于包含千亿级参数的大批量训

3、练任务 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMakerSageMaker模型训练集群Amazon SageMaker控制面板Amazon CloudWatchAmazon ECRAmazon SageMaker Training 任务预配置/停止/监控实例创建训练任务 API 调用Amazon S3Amazon EFSAmazon FSx for Lustre复制/流式传输数据训练代码虚拟专用云（VPC）下载训练镜像流式日志存储元数据和超参数输出模型/数据机器学习构建者存储 2024,Amazon Web S

4、ervices,Inc.或其附属公司。保留所有权利。利用您的自有深度学习模型进行训练 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMakerSageMaker ProfilerProfiler预 览概览页面可显示训练作业的综合指标 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMakerSageMaker ProfilerProfiler预 览时间轴视图可提供详细的 CPU 和 GPU 活动轨迹 2024,Amazon Web Service

5、s,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMakerSageMaker智能筛选功能预 览在线筛选训练数据，最多可削减 35%的训练时间和成本在训练过程中自动分析数据过滤掉对模型训练帮助不大的样本最多可削减 35%35%的训练时间和成本只使用可改进模型的数据进行训练几分钟内即可开始无需调整现有的训练或数据管道全新功能!2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。只需几行代码即可启用智能筛选功能 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMak

6、erSageMaker的智能筛选技术可在不牺牲精度的前提下大幅削减计算成本和人力，从而彻底改变了模型微调技术。我们将成本降低了46%46%，这意味着效率和效果实现了飞跃，有望为 AI AI 模型优化开辟一条更智能的道路。金承焕LG 人工智能研究院副院长兼视觉实验室主任 2024,Amazon Web Services,Inc.或其附属公司。保留所有权利。Amazon Amazon SageMakerSageMaker HyperPodHyperPod简介自愈集群可将训练时间最多缩短 20%弹性环境Amazon SageMaker 分布式训练库可将性能提升多达 20%优化分布式训练可控制计算环境