服务容错背景方案

本文介绍了在微服务架构中如何应对请求堆积引发的雪崩问题,提出了隔离策略如线程池,以及超时、限流和熔断等解决方案。超时设置避免长时间等待,限流保护服务不被过度消耗,熔断机制在服务故障时自动隔离,防止连锁失效。此外,详细阐述了熔断的探测恢复机制和流控策略,包括快速失败、排队等待等,确保系统稳定运行。
摘要由CSDN通过智能技术生成

在单体项目中,处理的请求因网络原因等没有得到相应,导致了请求堆积,堆积过量会进一步的使得上层调用出故障,最终形成雪崩。

仓壁模式

使用隔离手段,使其形成每个区块,各个区块互不影响,主要有线程池等方式

超时
  一定时间请求没得到响应超时,而放弃。

限流
  在提供方限制流量,一旦到达相应阈值就会限制,提供了相应的保护

熔断

在调用方上检测其调用,如果发现某个底层服务多次出现故障,就会自动熔断,

不再被服务调用,一段时间后,会放出一个探测请求,若依然报错,继续保持开启状态

,若成功,则恢复使用。

流控

控制提供方流量,有qps每秒允许和线程数通过控制阈值加上流控模式

进行控制,流控模式直接,对当前请求限流,关联a关联b对B发起请求,

使得a限流,链路对整个业务链起作用。流控效果有快速失败,直接拒绝,warm up

用预热时间除以默认的冷加载因子3得到起始值,随后会每秒提升流量到最终时间,

排队等待严格控制时间间隔,使其均匀通过。
  

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值