2019年基于DevOps的资源弹性调度平台实践.pdf

1、GOP S 全 球 运 维 大 会 2019上 海 站GOP S 全 球 运 维 大 会 2019上 海 站基于DevOps的资源弹性调度平台实践GOP S 全 球 运 维 大 会 2019上 海 站目录京东物流DevOps发展现状1掘金DevOps：丰富的元数据2调度平台的设计思路3总结及展望4GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状曾经：追求效率如今：追求效益VS操作自动化开发了自动化开仓、持续构建、持续部署等系统应用。资源可度量监控容器（虚机）CPU利用率、内存使用量、各类数据库、MQ等的磁盘使用量等。平台化建设开仓、构建、部署、监控、运维一体化

2、平台。资源合理利用如何智能地调度资源以达到资源的合理利用？GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状Serverless无状态：应用赖以运行的容器，随时随地可销毁，状态信息不可保存于容器中标准架构：标准的负载均衡架构、标准的高可用架构、标准的运行时环境 足微足快：应用异常能快速定位问题、快速启动GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状发展现状以传统的思维方式、架构、技术构建大型互联网企业应用。01传统开发方式基础设施虽然基于云计算技术构建，但是开发人员将容器（虚机）作为普通服务器使用。02传统部署方式以安装包方式

3、部署，而非镜像方式部署。03传统运维方式以IP为中心构建的完整运维体系、如CMDB、监控、报警、日志。GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状以传统方式开发系统负载均衡方案基于DNS、VIP，分布式服务等多种技术来实现。安全方案很多授权以IP为维度，例如数据访问的授权。降级方案很多方案都以本地文件系统作为降级方案中的一环。问题诊断方案习惯于ssh到目标机器，查看服务器CPU、网络、磁盘及JVM信息。GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状以传统方式构建的部署系统案例京东物流大部分应用仍采用传统的打包部署方式，底

4、层技术为Jenkins+Ansible+shell，这种方式同样将容器（虚机）作为传统的服务器来使用，好处是既能在云上（支持容器、虚机）部署应用，也能在传统的物理机上部署应用。GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状以IP为中心构建的监控系统案例火眼监控系统可以监控服务器指标（如CPU、内存、网络、磁盘等，也可以监控），也可以监控JVM的信息，同时具备部分智能诊断功能。例如下面的案例中，服务器CPU利用率过高的原因是GC导致的。GOP S 全 球 运 维 大 会 2019上 海 站京东物流DevOps发展现状以IP为中心构建的监控系统案例对于CPU飙升

5、的问题，火眼监控系统可以定位到消耗CPU最大的线程，并打印其调用栈。固化了很多问题诊断的标准流，将经验尽可能转换为技术实现。GOP S 全 球 运 维 大 会 2019上 海 站目录京东物流DevOps发展现状1掘金DevOps：丰富的元数据2调度平台的设计思路3总结及展望4GOP S 全 球 运 维 大 会 2019上 海 站DevOps系统中蕴含着丰富的元数据信息，主要体现在以下10个方面：应用-代码：应用的代码库信息及POM依赖关系。应用-中间件：应用依赖的中间件信息。应用-服务器：应用部署的服务器信息。应用-配置：应用的各种配置信息。应用-日志：应用的日志信息。应用-监控：应用的各种监

6、控信息。应用-人员：应用相关开发、测试、设计人员信息。应用-过程：应用进行的代码修改、测试、发布等过程信息。应用-质量：应用上线前后的各种质量数据。应用-安全：应用安全相关的数据，如各种授权信息等。应用代码中间件服务器配置日志监控人员过程质量安全掘金DevOps：丰富的元数据GOP S 全 球 运 维 大 会 2019上 海 站系统应用X分组A192.168.1.10192.168.1.11192.168.1.12分组B192.168.2.20192.168.2.22192.168.2.23应用Y分组A192.168.3.31分组B192.168.3.31掘金DevOps：丰富的元数据京东物流