008 高并发服务依赖与治理-降级、动态开关、灰度发布

        在高并发场景下,由于超时或者异常导致服务之间的RPC调用失败,及时的对服务进行补偿、兜底、降级或者熔断,可以有效避免整个调用链路不可用,保障业务的正确执行!

场景:最常见的app端用户登录访问服务;

        app端通过访问userCenter(用户中心)获取token,然后访问ServiceA实际服务,ServiceA通过拦截器拦截用户,去userCenter验证token的有效性,返回code码,如果返回200则说明token有效,可以向下执行,其他返回都属于异常;

        在此过程中userCenter因为高并发、网络故障、节点切换等客观可出现的问题,导致验证请求重试三次都返回异常、调用服务超时产生熔断等等,就需要使用降级手段、兜底策略、补偿方案来做处理;

        降级手段、兜底策略都属于即时性解决方案,而补偿方案属于滞后性处理,惯用补偿方式是延后请求,比如延后1-5分钟在次请求,但是此场景无法对用户使用长等待,所有不适用,应使用降级手段及兜底策略来处理,最优选择降级手段;

降级手段:

降级手段:通过Service A对应的本地缓存REDIS来缓存用户最后一次访问ServiceA服务的token,在用户下次访问如出现验证异常或服务调用超时的情况下,通过比对缓存中的token与用户token是否一致来决定用户是否可以访问ServiceA;

注意:token的生命周期正常为30分钟,但是缓存中设置延迟为24小时,就在于保障服务的可用性,本身就是降级手段,即便用户最后一次访问可能已经是1小时前,缓存中的token也在延长有效期内等待验证;多服务多节点采用缓存降级手段相同。

自动降级:

        自动降级是指当服务达到某个阈值的时候,自动进行屏蔽某些服务的调用 ,此场景中服务调用超时150ms熔断就是自动降级;

手工降级: 

        手工降级通常需要人工进行设置,往往不是非常的即时,但也是必不可少;例如,如果随业务发展,对应场景中150ms超时熔断这个阀值过低,那么可以通过动态配置的方式重设就是手工降级。

实际场景中两种方式通常结合应用。

动态开关:

动态开关和动态降级差不多的理念,通常在于高并发下采取的开启与关闭某些抗压的功能组件;

生产消费场景:(MQ:应用解耦、流量消峰、消息分发)

灰度发布:(采用AOP的方式实现)

灰度这个概念非常的重要,一般来说互联网公司发布一个重要的功能,或者新需求上线,首先都需要进行灰度;

AOP方式:业务维度作为组件进行引入,根据具体业务来配置具体参数;

 

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值