云上应用高可用防护体系（30页）——高可用架构专场.pdf

1、云上应用高可用防护体系黄杰龙（笛墨）阿里云智能高可用架构技术专家Contents01目录双十一背后的挑战02阿里高可用防护体系介绍03云上应用基于AHAS构建高可用防护体系04总结破10亿21秒破100亿2分05秒49.1万峰值秒级交易创建双十一背后的挑战容量确定性双十一背后的挑战流量确定性业务确定性阿里高可用防护体系介绍02New Future on Cloud应用生命周期New Future on Cloud1.准备/架构设计应用生命周期2.代码实现、编码阶段3.上线前验证、演练阶段4.应用交付5.线上防护高可用防护体系架构层演练域运行域同城容灾异地多活功能开关熔断/降级业务预案容量规划故

2、障演练容灾演练应用SLA预案演练应用服务发现架构感知压测演练单元化异常机器流量调度业务运行隔离业务对账阿里巴巴高可用防护体系New Future on Cloud交付域负载均衡流量控制全链路压测应用流控系统维度自适应限流、防雪崩系统保护熔断降级快速降级、隔离不稳定接口流量控制轻松应对流量洪峰流量控制实现原理到来的请求拦截器存储量为r的令牌桶丢弃/排队继续请求按照1/r每秒放令牌典型场景流量洪峰秒杀，大促，下单，订单回流处理削峰填谷消息类型应用,平滑消息消费速度API精准流量限制精准控制API调用次数慢启动平滑控制流量速率,实现慢启动降级/熔断实现原理强依赖隔离弱依赖降级正常流量异常流量典型场景

3、弱依赖降级秒杀，大促，下单，订单回流处理错误调用降级将错误控制在一定范围内慢SQL隔离精准控制API调用次数系统防护实现原理BBR算法:网络流量拥塞控制根据实时系统处理能力,动态调节机器流量大小典型场景New Future on Cloud系统瞬时抖动系统CPU/LOAD抖动防雪崩部分机器不可用后导致集群不可用局部可用性应用整体可用就没问题了吗?调用链路局部问题会放大到整条链路调用链路任何一个环节失败,将导致整条调用链路失败单点问题会放大成面分布式系统中,单台机器/单个服务会被多个调用方调用,一旦出现问题,可能影响全部调用方局部问题带来的影响New Future on Cloud局部问题解法N

4、ew Future on Cloud域名 或 服务请求请求请求总QPS100机器1机器2机器3机器440 QPS40 QPS20 QPS0 QPS根据机器的实时处理能力,分配机器流量大小异常机器流量调度New Future on Cloud服务状态视图人工决策应用状态监控机器指标监控流量分布探测秒级状态探测收集规则中心执行模块分布统计聚类分析时序处理规则中心互斥因子恢复模块报表日志权限通知告警降权HTTP注册中心降权RPC 注册中心降权RPC 客户端下线下线下线机器机器WEB 应用机器机器后端 应用机器机器RPCTomcatSystemSPICPULOADRTTHREAD异常业务状态RESTF

5、ul API应用容器机器RPCTomcatSystemSPICPULOADRTTHREAD异常业务状态RESTFul API应用容器机器降权重下线降权重降权重下线下线接入层秒级状态感知实时异常检测动态调整流量云上应用基于AHAS构建高可用防护体系03New Future on Cloud精准流控多维度防护实时监控简单、易用云上高可用防护体系49.1万限流误差笔数误差率0.02%精准流控New Future on Cloud峰值秒级交易创建100笔多维度防护CacheMessage3rdParty ApplicationDatabase服务内部业务链路入口服务与依赖客户端GatewayFirew

6、allWeb ServersLoad BalancerServicesNetwork全方位流量控制秒级限流大盘多维度监控实时监控秒级指标,系统状态清晰明了集群维度、单机维度、接口维度,RPC、WEB、SQL支持框架框架JDK 1.7JDK 1.8AgentDubbo2.5.x+2.5.x+支持Web ServletSDK:2.x+Agent:3.0+SDK:2.x+Agent:3.0+支持Spring Boot1.3.X+1.3.X+支持Spring MVC4.X+4.X+支持Spring Cloud Gatewa