2024龙蜥大会Workshop：Alibaba Cloud AI Containers：智算时代容器化分发新范式 - 朱晟龙.pdf

《2024龙蜥大会Workshop：Alibaba Cloud AI Containers：智算时代容器化分发新范式 - 朱晟龙.pdf》由会员分享，可在线阅读，更多相关《2024龙蜥大会Workshop：Alibaba Cloud AI Containers：智算时代容器化分发新范式 - 朱晟龙.pdf（16页珍藏版）》请在三个皮匠报告上搜索。

1、Alibaba Cloud AI ContainersAlibaba Cloud AI Containers智算时代容器化分发新范式 朱晟龙|阿里云操作系统技术专家 010102020303AC2AC2 容器产品介绍容器产品介绍AC2AC2 容器镜像生态容器镜像生态全链路容器开发全链路容器开发content目录目录01/AC2 容器产品介绍按照用户不同的诉求提供不同场景的容器镜像，包括内置 CUDA 驱动、AI 框架，使开发者能够在复杂的 AI 需求下快速部署业务 开箱即用 与阿里云基础设施包括 ECS、ACK、ECI 深度结合优化，Intel、AMD、NVIDIA 等硬件厂商在 AI 生态上

2、原生适配 深度优化Intel、AMD、NVIDIA 等硬件厂家在 AI 生态上原生适配，为后续 AI 容器镜像提供开放、开源的路径提供了可能 生态丰富 全链路 AI 镜像构建发布平台，保障镜像构建、测试、发布、维护全生命周期安全合规 安全合规阿里云官方为 AC2 系列容器镜像提供维护和技术支持 服务支持Alibaba Cloud AI Containers 优势AI 应用开发流 镜像来源 组件来源 模型来源 数据准备 模型开发 模型训练 部署推理 持续发布 弹性部署 研发 测试 调参 优化 引入 下载拉取 下载克隆 Alibaba Cloud AI Containers 优势NVIDIANGC

3、DockerHubUbuntuContainersHuggingFaceAI 应用开发流 镜像来源 组件来源 模型来源 数据准备 模型开发 模型训练 部署推理 持续发布 弹性部署 研发 测试 调参 优化 风险 风险 风险 1 2 3 组件引入存在 安全合规安全合规 的风险国内线路受限导致 开发成本开发成本 的风险运维服务 SLA 等级 无法保障无法保障Alibaba Cloud AI Containers 优势NVIDIANGCDockerHubUbuntuContainersHuggingFaceAI 应用开发流 镜像来源 模型来源 数据准备 模型开发 模型训练 部署推理 持续发布 弹性部署

4、 研发 测试 调参 优化 引入 下载拉取 下载克隆 Alibaba Cloud AI Container s 组件来源 1 2 3 丰富的 AI 容器镜像 全流程安全合规 标准的 SLA 服务等级 Alibaba Cloud AI Containers 优势02/AC2 容器镜像生态Alibaba Cloud AI ContainersAlibaba Cloud AI Containers 生态全览计算底座容器底座硬件加速计算框架应用依赖模型应用阿里云基础设施ECSACKPAIECIoneAPI ToolkitoneDNNoneMKLoneCCLoneTBBAMD 硬件加速库zenDNNAOC

5、LGPU 硬件加速库GPU SDKGPU ToolkitPyTorchTensorFlowONNX RuntimeIPEX/ITEXvLLMAlibaba Cloud LinuxOpenVINOmatplotlibPandasSciPyscikit-learnNumbaxFormersOptimumPillowGradioTransformers模型库AI 应用ModelScopeAlibaba Cloud AI Containers 镜像分层AC2 镜像分层 上架 19 个 AI 镜像 涵盖 基础镜像 框架镜像 模型镜像 开发镜像 优化镜像03/全链路容器开发全流程容器镜像制作平台Python 组件构建平台全链路容器开发Python 组件构建平台 全流程容器镜像制作平台 Alibaba Cloud AI Containers组件选型组件选型 组件构建组件构建 镜像集成镜像集成 镜像测试镜像测试 安全扫描安全扫描 分发分发 高效、透明、安全的智算容器生态新范式 AC2 于今年 4 月正式上线，目前已帮助 数十家 企业解决 AI 场景下不同问题，涵盖 金融、券商、电商、自动驾驶 等领域