第8章 CircuitBreaker断路器

第8章 CircuitBreaker断路器

1、Hystrix目前也进入维护模式

1.1 是什么

Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。

1.2 Hystrix官宜，停更

1.3 Hystrix末来替换方案

Resilience4j

2、概述

2.1 分布式系统面临的问题

服务雪崩
复杂分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败。

多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其它的微服务，这就是所谓的扇出。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”。
对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的延迟增加，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统。
所以，通常当你发现一个模块下的某个实例失败后，这时候这个模块依然还会接收流量，然后这个有问题的模块还调用了其他的模块，这样就会发生级联故障，或者叫雪崩。

2.2 我们的诉求

问题：禁止服务雪崩故障
解决：
- 有问题的节点，快速熔断（快速返回失败处理或者返回默认兜底数据【服务降级】）。
“断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝），向调用方返回一个符合预期的、可处理的备选响应(FallBack)，而不是长时间的等待或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。
一句话，出故障了“保险丝”跳闸，别把整个家给烧了

2.3 如何搞定上述问题，避免整个系统大面积故障

• 解决措施
  • 服务熔断
    • 类比保险丝，保险丝闭合状态(CLOSE)可以正常使用，当达到最大服务访问后，直接拒绝访问跳闸限电(OPEN),此刻调用方会接受服务降级的处理并返回友好兜底提示。
    • 就是家里保险丝，从闭合CLOSE供电状态跳闸OPEN打开状态
  • 服务降级
    • 服务器忙，请稍后再试。
    • 不让客户端等待并立刻返回一个友好提示，fallback
  • 
  • 服务限流
  • 服务限时
  • 服务预热
  • 接近实时的监控
  • 兜底的处理动作
• 组件选择Hystrix过时
  • Spring Cloud Circuit Breaker
    

3、Circuit Breaker是什么

3.1 官网

https://spring.io/projects/spring-cloud-circuitbreaker#overview

3.2 实现原理

CircuitBreaker的目的是保护分布式系统免受故障和异常，提高系统的可用性和健壮性。<br />	当一个组件或服务出现故障时，CircuitBreaker会迅速切换到开放OPEN状态(保险丝跳闸断电)，阻止请求发送到该组件或服务从而避免更多的请求发送到该组件或服务。这可以减少对该组件或服务的负载，防止该组件或服务进一步崩溃，并使整个系统能够继续正常运行。同时，CircuitBreaker还可以提高系统的可用性和健壮性，因为它可以在分布式系统的各个组件之间自动切换，从而避免单点故障的问题。

3.3 总结

Circuit Breaker只是一套规范和接口，落地实现者是Resilience4J

4、Resilience4J

4.1 是什么

github:https://github.com/resilience4j/resilience4j#1-introduction
官网:https://resilience4j.readme.io/docs/circuitbreaker

4.2 能干吗

https://github.com/resilience4j/resilience4j#3-overview

4.3 怎么玩

中文手册https://github.com/lmhmhl/Resilience4j-Guides-Chinese/blob/main/index.md

5、案例实战

5.1 熔断(CircuitBreaker)(服务熔断+服务降级)

5.1.1 断路器3大状态

5.1.2 断路器3大状态之间的转换

5.1.3 断路器所有配置参数参考

• 英文
  • https://resilience4j.readme.io/docs/circuitbreaker#create-and-configure-a-circuitbreaker
• 中文

  • https://github.com/lmhmhl/Resilience4j-Guides-Chinese/blob/main/core-modules/CircuitBreaker.md
    | 配置属性 | 默认值 | 描述 |
    | — | — | — |
    | failureRateThreshold | 50 | 以百分比配置失败率阈值。当失败率等于或大于阈值时，断路器状态并关闭变为开启，并进行服务降级。 |
    | slowCallRateThreshold | 100 | 以百分比的方式配置，断路器把调用时间大于slowCallDurationThreshold的调用视为满调用，当慢调用比例大于等于阈值时，断路器开启，并进行服务降级。 |
    | slowCallDurationThreshold | 60000 [ms] | 配置调用时间的阈值，高于该阈值的呼叫视为慢调用，并增加慢调用比例。 |
    | permittedNumberOfCallsInHalfOpenState | 10 | 断路器在半开状态下允许通过的调用次数。 |
    | maxWaitDurationInHalfOpenState | 0 | 断路器在半开状态下的最长等待时间，超过该配置值的话，断路器会从半开状态恢复为开启状态。配置是0时表示断路器会一直处于半开状态，直到所有允许通过的访问结束。 |
    | slidingWindowType | COUNT_BASED | 配置滑动窗口的类型，当断路器关闭时，将调用的结果记录在滑动窗口中。滑动窗口的类型可以是count-based或time-based。如果滑动窗口类型是COUNT_BASED，将会统计记录最近slidingWindowSize次调用的结果。如果是TIME_BASED，将会统计记录最近slidingWindowSize秒的调用结果。 |
    | slidingWindowSize | 100 | 配置滑动窗口的大小。 |
    | minimumNumberOfCalls | 100 | 断路器计算失败率或慢调用率之前所需的最小调用数（每个滑动窗口周期）。例如，如果minimumNumberOfCalls为10，则必须至少记录10个调用，然后才能计算失败率。如果只记录了9次调用，即使所有9次调用都失败，断路器也不会开启。 |
    | waitDurationInOpenState | 60000 [ms] | 断路器从开启过渡到半开应等待的时间。 |
    | automaticTransition FromOpenToHalfOpenEnabled | false | 如果设置为true，则意味着断路器将自动从开启状态过渡到半开状态，并且不需要调用来触发转换。创建一个线程来监视断路器的所有实例，以便在WaitDurationInOpenstate之后将它们转换为半开状态。但是，如果设置为false，则只有在发出调用时才会转换到半开，即使在waitDurationInOpenState之后也是如此。这里的优点是没有线程监视所有断路器的状态。 |
    | recordExceptions | empty | 记录为失败并因此增加失败率的异常列表。 除非通过ignoreExceptions显式忽略，否则与列表中某个匹配或继承的异常都将被视为失败。 如果指定异常列表，则所有其他异常均视为成功，除非它们被ignoreExceptions显式忽略。 |
    | ignoreExceptions | empty | 被忽略且既不算失败也不算成功的异常列表。 任何与列表之一匹配或继承的异常都不会被视为失败或成功，即使异常是recordExceptions的一部分。 |
    | recordException | throwable -> true· By default all exceptions are recored as failures. | 一个自定义断言，用于评估异常是否应记录为失败。 如果异常应计为失败，则断言必须返回true。如果出断言返回false，应算作成功，除非ignoreExceptions显式忽略异常。 |
    | ignoreException | throwable -> false By default no exception is ignored. | 自定义断言来判断一个异常是否应该被忽略，如果应忽略异常，则谓词必须返回true。 如果异常应算作失败，则断言必须返回false。 |

  • 默认CircuitBreaker

    • java配置类io.github.resilience4j.circuitbreaker.CircuitBreakerConfig

  • 中文手册精简版
    | 配置属性 | 默认值 | 描述 |
    | — | — | — |
    | failureRateThreshold | 50 | 以百分比配置失败率阈值。当失败率等于或大于阈值时，断路器状态并关闭变为开启，并进行服务降级。 |
    | slowCallRateThreshold | 100 | 以百分比的方式配置，断路器把调用时间大于slowCallDurationThreshold的调用视为满调用，当慢调用比例大于等于阈值时，断路器开启，并进行服务降级。 |
    | slowCallDurationThreshold | 60000 [ms] | 配置调用时间的阈值，高于该阈值的呼叫视为慢调用，并增加慢调用比例。 |
    | permittedNumberOfCallsInHalfOpenStat