服务治理:高可用的三大利器熔断、限流、降级

在我们进行系统设计时,必须要考虑系统的高性能、高并发、高可用。本文分享的是关于高可用的三大利器:熔断、限流、降级,我们使用通俗、易懂的语句将三个概念讲清楚。

一、熔断

在服务的依赖调用中,被调用方出现故障时,出于自我保护的目的,调用方会主动停止调用,并根据业务需要进行相应处理。调用方这种主动停止调用的行为我们称之为熔断。
在这里插入图片描述
为什么要熔断
假定服务A依赖服务B,当服务B处于正常状态,整个调用是健康的,服务A可以得到服务B的正常响应。当服务B出现故障时,比如响应缓慢或者响应超时,如果服务A继续请求服务B,那么服务A的响应时间也会增加,进而导致服务A响应缓慢。如果服务A不进行熔断处理,服务B的故障会传导至服务A,最终导致服务A也不可用。

二、限流

限流是针对服务请求数量的一种自我保护机制,当请求数量超出服务的处理能力时,会自动丢弃新来的请求。
在这里插入图片描述
为什么要限流
任何一个系统的处理能力都是有极限的,假定服务A的处理能力为QPS=100,当QPS<100时服务A可以提供正常的服务。当QPS>100时,由于请求量增大,会出现争抢服务资源的情况(数据库连接、CPU、内存等),导致服务A处理缓慢;当QPS继续增大时,可能会造成服务A响应更加缓慢甚至奔溃。如果不进行限流控制,服务A始终会面临着被大流量冲击的风险。做好系统请求流量的评估,制定合理的限流策略,是我们进行系统高可用保护的第一步。

三、降级

降级是通过开关配置将某些不重要的业务功能屏蔽掉,以提高服务处理能力。在大促场景中经常会对某些服务进行降级处理,大促结束之后再进行复原。
在这里插入图片描述
为什么要降级
在不影响业务核心链路的情况下,屏蔽某些不重要的业务功能,可以节省系统的处理时间,提供系统的响应能力,在服务器资源固定的前提下处理更多的请求。

相关文章:聊聊系统的强弱依赖

本文通过通俗、易懂的语言描述了熔断、限流、降级的概念,后续会逐步分享更多关于服务治理方面的内容。文章内容仅代表个人观点,如有不正之处,欢迎批评指正,谢谢大家。

  • 9
    点赞
  • 39
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
AB 实验是一种常用的实证研究方法,用于评估因果关系和确定特定干预措施对于所关注变量的影响。科学归因则是指通过合理的分析与推断,确定事件发生的原因或因果关系。《科学归因与增长的利器》是一本以AB 实验为基础的电子书籍,主要介绍了如何利用AB 实验在增长领域中取得成功。 该书首先介绍了AB 实验的基本概念和原则。AB 实验通常包括两个或多个实验组,其中一个组作为对照组,其他组则接受某种干预措施。通过与对照组的比较,可以得出干预措施对于所关注变量的影响。这一方法在科学研究中已被广泛使用,例如医学研究中的药物试验,市场营销中的广告测试等。 接着,该书介绍了科学归因在增长领域的应用。增长是指通过运用各种策略和技术,提高企业的业务指标,如用户数量、销售额等。通过AB 实验可以确定不同的增长策略对于业务指标的影响效果,并进一步优化策略,提升增长效果。科学归因可以帮助、决策者判断哪些策略或因素对于增长效果贡献最大,以及如何合理分配资源来实现最好的增长效果。 最后,该书还提供了实际案例和技巧,帮助读者学习如何设计和执行AB 实验,以及如何进行科学归因分析。通过深入了解AB 实验和科学归因的方法,读者可以更好地应用于实际工作中,提升增长策略的效果。 总而言之,《科学归因与增长的利器》是一本以AB 实验为基础,介绍了如何应用科学归因分析在增长领域取得成功的电子书。通过理解和应用书中的方法和技巧,读者可以更好地评估和优化增长策略,提升业务指标。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值