罗义云-阿里云人工智能平台PAI的MaaS实践.pdf

《罗义云-阿里云人工智能平台PAI的MaaS实践.pdf》由会员分享，可在线阅读，更多相关《罗义云-阿里云人工智能平台PAI的MaaS实践.pdf（37页珍藏版）》请在三个皮匠报告上搜索。

1、阿里云人工智能平台PAI的MaaS实践罗义云（一耘）阿里云资深技术专家、PAI平台工程技术负责人演讲嘉宾罗义云阿里云资深技术专家毕业于北京大学，曾任微软高级研发经理、旷视科技AI平台高级技术总监，现任阿里云资深技术专家、AI平台工程技术负责人。在机器学习、人工智能、大数据等方向有着深厚的技术积累和丰富的行业经验。目 录CONTENTS1.MaaS的起源和定义2.PAI的MaaS实践3.未来展望MaaS的起源和定义PART 01人工智能进入AIGC时代活跃用户200万万+模型2300+模型累计下载1亿亿+顶尖人工智能合作机构20+开源模型社区什么是MaaS？什么是MaaS？Foundation

2、models训练计算业务产品存储网络部署算法工程优化解决方案资产管理优化能力平台工程优化（MLOps）最佳实践开发集群管控IaaSPaaSMaaSMaaS=基础模型+算法工程优化+平台工程优化MaaS的组成要件AzureMLModel catalog火山引擎SageMakerFoundation modelsJumpstart方舟大模型平台主流云厂商是怎么做的？SageMakerAzureML火山引擎PAI的MaaS实践PART 02场景化解决方案高速 RDMA 网络（RoCE）异构计算磐久服务器（CPU、GPU）分布式存储 CPFS/NAS/OSS灵骏智算服务&机器学习框架(PaaS)低PU

3、E液冷/风冷，模块化IDC设施AI应用：自动驾驶/科研智算/金融风控/智能推荐/智能设计/智慧城市/智能制造/智慧医疗/智慧法务/第三方第三方MaaSMaaS平台平台模型服务(MaaS)ModelScope 魔搭社区计算资源&基础设施（IaaS)容器服务 ACK弹性计算 ECS 机器学习框架（PAI-TensorFlow/PAI-PyTorch/Alink/Spark,EasyRec/EasyPhoto/EasyTransfer/Megatron/DeepSpeed/RLHF）PAI-灵骏计算资源云原生通用计算资源大数据计算资源（MaxCompute/EMR/Flink）工作空间AI资产管理（

4、数据集/模型/镜像/代码/自定义组件/权限管理MLOps云产品依赖 优化与加速（DatasetAcc 数据集加速/TorchAcc 训练加速/EPL 并行训练框架/Blade推理加速/AI Master 自动容错训练/EasyCkpt 秒级异步训练快照）PAI-DashScope 模型服务灵积模型在线服务PAI-EAS分布式训练PAI-DLC标注服务PAI-iTAG交互式建模PAI-DSW可视化建模PAI-Designer 快速开始：PAI-QuickStart/PAI-智码实验室/PAI-DSW Gallery开发者工具CLI/PaiFlow/OpenAPI特征平台PAI-Feature S

5、torePAI产品架构PAI 提供一站式AI研发生命周期管理数据集管理镜像管理模型管理代码配置管理任务管理数据准备模型训练模型开发模型部署AIAI工作空间工作空间智能标注iTAG可视化建模Designer交互式建模DSW云原生AI基础平台DLC在线预测服务EASAI资产管理工作流工具链MLOps配置管理PAI-iTAG 智能标注阿里云智能标注，提供全场景、高质量、智能化的标注平台服务和人力标注服务标注能力标注能力数据安全数据安全预标工预标工具具图像、文本、视频、语音、PDF、多模态、自定义等全方位的标注能力和场景预置OCR、ASR等预标工具，大幅提升标注员的效率和准确率阿里云最新的数字安全传输

6、技术，保护标注数据不泄露人力标注服务：专业、全托管的数据服务人力标注服务：专业、全托管的数据服务公益模式标注基地，专业培训上岗，全托管的项目管理，极大降低标注人力成本任务分发与验收任务分发与验收标注+质检+验收的任务分发机制，保证标注数据的高质量交付人员与权限管理人员与权限管理管理员+标注组长+标注员的人员与权限管理，保证各角色的权限隔离和数据安全智能标智能标注注打通PAI-EAS部署的模型，让模型服务进行主动预标注PAI-DSW云原生交互式建模实例权限控制实例环境持久化灵活的环境支持多数据集支持实例生命周期管理支