《A2--张鹏--AISecOps软件供应链管理实践.pdf》由会员分享,可在线阅读,更多相关《A2--张鹏--AISecOps软件供应链管理实践.pdf(32页珍藏版)》请在三个皮匠报告上搜索。
1、AISecOps 软件供应链管理实践张鹏JFrog 解决方案架构师张鹏JFrog 解决方案架构师专注于 DevSecOps 解决方案设计与实施,具有丰富研发和云服务经验,负责JFrog中国南区及港澳台区域业务,具有丰富的银行、证劵、科技等行业的DevSecOps 建设实践经验。目录01CONTENTS0203AI 时代的 DevSecOps 变革制品库的“多类型”&“大模型”管理实践制品库的“软件供应链安全”管理实践04Demo&案例1.AI 时代的 DevSecOps 变革JFrog 软件供应链管理平台Artifactory(30+制品管理,Huggingface)Xray(18+制品扫描)
2、Curation(OSS 引入管理)JFrog Advanced Security(SAST)Runtime Security(保持关注)关于JFrogJFrog二进制文件开发打包晋级分发部署运行引入代码变革:世界仍在 OSS 上运行?“我们正处于 AI 的起跑线上,每个行业都将被革命”“苹果或因 AI 取消了电动汽车计划”“DevSecOps 实践将为 AI/ML 开发和安全提供宝贵经验”观点&思考2.制品库的“多类型”&“大模型”管理实践FTP/SVNMaven 库NexusNPM 库NPMDocker 库HarborC#,.Net 库Nuget公有云私有云容器云开发团队开发团队开发团队开
3、发团队开发团队开发团队统一代码库统一持续集成1.研发团队使用多种私服账号构建速度慢3.测试团队版本信息不透明版本缺乏质量信息4.运维团队高可用性维护难从研发到生产传包慢2.安全团队漏洞发现难影响定位难“最早的问题是 FTP/SVN,最新的问题也是”上一代软件管理方式https:/huggingface.co/blog/introducing-private-hub通过与 ML/Data Sci 团队的数千次对话,有了对构建 ML 面临的最常见问题和挑战的独特视角:重复的工作、不良的反馈循环、跨团队协作的高摩擦、非标准流程和工具以及生产模型优化困难。我们不再提供 Private Hub 本地部署
4、。“类似于 Private Github、Private Dockerhub,也需要 Private Huggingface Hub”为什么需要 Private Huggingface Hubhttps:/ ML 效率问题AI/ML 与“传统”软件研发的异同使用 S3 存储桶这会让数据科学家自行命名每个上传,这通常会导致命名不一致、File_Name_Final_Final_Final 难题,甚至丢失文件。使用 GIT数据科学家和工程师只需在 Main 分支上堆叠 Commit,利益相关者可以看到以前的提交,但没有简单的方法可以知道他们每次提交会得到什么,因为名称只是一组随机字符。“基于 FT
5、P/SVN 的手工作坊又回来了”如今 AI/ML 模型版本管理的问题1.研发依赖管理(多地同步)多种语言包的管理能力,Maven、Docker、Python、Conda、Huggingface 模型上传下载2.大文件管理(本地上传下载)对比 FTP/S3 具有去重存储和上传,降低存储和传输成本,高可用,灵活权限管理和 API 集成单机制品库上传速度上限为 1000MB/s单机制品库下载速度为 880MB/s(客户端数量不足,理论能打满带宽)横向扩展制品库节点,可以倍数提高上传和下载速度3.E+制品分发(边缘就近下载)通过 Release Bundle 分片分发,GPG 签名保护下载权限分发制品
6、传输速度为 100MB/s(两地互联网带宽限制)ArtifactoryArtifactory“多类型”和“大模型”使用场景ArtifactoryArtifactory“多类型”管理Conan、Terraform、SwiftPython、Conda、Docker、HuggingfaceArtifactoryArtifactory“大模型”管理对比 FTP/S3-并发下载可打满 80-100%带宽ArtifactoryArtifactory 对比 FTP 传输的优势1.Artifactory 支持去重上传,降低存储成本。2.Artifactory 支持多线程