低门槛开发AI：全栈AI平台开发新体验.pdf

《低门槛开发AI：全栈AI平台开发新体验.pdf》由会员分享，可在线阅读，更多相关《低门槛开发AI：全栈AI平台开发新体验.pdf（22页珍藏版）》请在三个皮匠报告上搜索。

1、低门槛开发AI腾讯云TI平台资深产品经理刘翃全栈AI平台开发新体验人工智能落地的业务挑战腾讯云TI平台公有云的开发新体验腾讯云TI平台的架构解读目录人工智能落地的业务挑战AI落地面临的挑战：从0做机器学习太麻烦成本投入大计算资源、存储、网络计算框架算法模型调优业务相关度高业务相关度中业务相关度低CPU GPU ASIC FPGA机器学习：分类、聚类、回归特征工程、关联规则 深度学习：CNN RNN DNN 框架搭建难算法门槛高手动优化难算法效果比对超参数调优样本数据打标“门槛高、投入大、周期长”是客户痛点，市场亟需机器学习平台产品化会利用海量已获得授权数据以及复杂深度学习网络进行业务模型训练追

2、求高精度业务效果市面开源推理加速框架，加速效果一般，且易用性较差，需投入极高人力接入开源加速框架易用性差模型产出效率低，复杂模型训练会持续1-2周训练周期长推理机器成本高，复杂模型单卡推理时延达到500ms+推理时延高降低训练时间、提升模型产出效率训练阶段提升推理性能、降低机器成本推理阶段AI落地面临的挑战：企业降本增效的痛点和需求痛 点背 景需 求性能强大灵活计费敏捷管理降低门槛兼容性高腾讯云TI平台提供标准化的模型开发，部署与运维流程，缩短模型开发部署的迭代周期丰富的算法框架及预置算法，场景化自动学习，使用者无需从0到1构建模型支持多种主流算法框架，可构建、发布、管理不同类型/场景/厂商的

3、算法服务弹性按量计费，预付费包月，适合多种规模企业的计费诉求基于自研加速服务TI-ACC，支持大规模的训练推理加速，针对同样的backbone模型加速效果具备优势腾讯云 TI 平台是基于腾讯先进 AI 能力和多年技术经验，面向开发者、政企提供的一站式AI开发服务平台，致力于打通包含从数据获取、数据处理、算法构建、模型训练、模型评估、模型部署、到 AI 应用开发的产业+AI 落地全流程链路，帮助用户快速创建和部署 AI 应用，管理全周期 AI 解决方案，从而助力政企单位加速数字化转型并促进 AI 行业生态共建。腾讯云 TI 平台系列产品支持公有云访问、私有化部署以及专有云部署。基于自研加速服务T

4、I-ACC，支持大规模的训练推理加速，针对同样的backbone模型加速效果具备优势腾讯云TI平台公有云的开发新体验一站式AI开发服务平台：帮助各行各业实现降本增效模型服务服务管理弹性服务定时调度TI-ACC推理加速模型推理加速比模型管理数据接入大数据平台分布式文件存储对象存储支持存算分离数据接入周期缩短关系型数据库数据加工图像检测标注图像分割标注目标跟踪标注数据增强标注成本降低图像分类标注模型训练Notebook建模任务建模TIKitTI-ACC训练加速算法开发效率提升自动学习腾讯云弹性算力集群*数据接入周期缩短及标注成本降低量化数据为内部测试结果80%70%50%2倍+持续扩充的高精度场景

5、化低门槛模型生产工具多样化建模工具：快速上手生产模型大幅度降低模型生产门槛，业务人员+数据科学家AI集成开发利器资深算法工程师自动学习专业的算法调试及模型生产工具TI-KIT开发工具包所见即所得的训练任务驱动器资深算法工程师任务式建模专业的多框架调试运行环境资深算法工程师IDE开发环境核心优势：TI-ACC训练加速CV&推荐场景主流模型训练加速效果优异加速效果在CV、推荐等模型训练场景中，为算法工程师提供数据IO、计算、通信等多阶段训练加速能力，一般可提升30%+训练性能产品能力支持PyTorch、TensorFlow、MMDet、MMCls框架支持DDP、PS、Horovord分布式训练工具

6、提供简单、封装完善的数据IO优化、自适应混合精度优化、DDP&PS通信优化接口函数硬件环境模型接口功能原生框架训练速度(examples/sec per V100)TI-ACC优化速度(examples/sec per V100)TI.GN10.20XLARGE320(80C320G V100*8)ResNet50(MMCls)数据IO优化+自适应混合精度优化70.8（PyTorch）379.2TI.GN10.20XLARGE320(80C320G V100*8)*2Wide&Deep(NVIDIA DeepLearningExamples)PS通信优化59.5（TF）124核心优势：TI-A