服务熔断Hystrix

服务熔断Hystrix

服务容错的核心知识

雪崩效应

在微服务架构中，一个请求需要调用多个服务是非常常见的。如客户端访问A服务，而A服务需要调用B
服务，B服务需要调用C服务，由于网络原因或者自身的原因，如果B服务或者C服务不能及时响应，A服
务将处于阻塞状态，直到B服务C服务响应。此时若有大量的请求涌入，容器的线程资源会被消耗完毕，
导致服务瘫痪。服务与服务之间的依赖性，故障会传播，造成连锁反应，会对整个微服务系统造成灾难
性的严重后果，这就是服务故障的“雪崩”效应。

雪崩是系统中的蝴蝶效应导致其发生的原因多种多样，有不合理的容量设计，或者是高并发下某一个方
法响应变慢，亦或是某台机器的资源耗尽。从源头上我们无法完全杜绝雪崩源头的发生，但是雪崩的根
本原因来源于服务之间的强依赖，所以我们可以提前评估，做好熔断，隔离，限流。

服务隔离

顾名思义，它是指将系统按照一定的原则划分为若干个服务模块，各个模块之间相对独立，无强依赖。
当有故障发生时，能将问题和影响隔离在某个模块内部，而不扩散风险，不波及其它模块，不影响整体
的系统服务。

熔断降级

熔断这一概念来源于电子工程中的断路器（Circuit Breaker）。在互联网系统中，当下游服务因访问压
力过大而响应变慢或失败，上游服务为了保护系统整体的可用性，可以暂时切断对下游服务的调用。这
种牺牲局部，保全整体的措施就叫做熔断。

所谓降级，就是当某个服务熔断之后，服务器将不再被调用，此时客户端可以自己准备一个本地的
fallback回调，返回一个缺省值。 也可以理解为兜底。

服务限流

限流可以认为服务降级的一种，限流就是限制系统的输入和输出流量已达到保护系统的目的。一般来说
系统的吞吐量是可以被测算的，为了保证系统的稳固运行，一旦达到的需要限制的阈值，就需要限制流
量并采取少量措施以完成限制流量的目的。比方：推迟解决，拒绝解决，或者者部分拒绝解决等等。

Hystrix介绍

Hystrix 是由Netflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失
败，从而提升系统的可用性与容错性。Hystrix主要通过以下几点实现延迟和容错。也习惯称之为——断路器

• 包裹请求：使用 HystrixCommand包裹对依赖的调用逻辑，每个命令在独立线程中执行。这使用
  了设计模式中的“命令模式”。
• 跳闸机制：当某服务的错误率超过一定的阈值时， Hystrix可以自动或手动跳闸，停止请求该服务
  一段时间。
• 资源隔离： Hystrix为每个依赖都维护了一个小型的线程池（或者信号量）。如果该线程池已满，
  发往该依赖的请求就被立即拒绝，而不是排队等待，从而加速失败判定。
• 监控： Hystrix可以近乎实时地监控运行指标和配置的变化，例如成功、失败、超时、以及被拒绝
  的请求等。
• 回退机制：当请求失败、超时、被拒绝，或当断路器打开时，执行回退逻辑。回退逻辑由开发人员
  自行提供，例如返回一个缺省值。
• 自我修复：断路器打开一段时间后，会自动进入 “半开”状态。

Rest实现服务熔断

（1）引入Hystrix依赖

        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>

（2）在启动类中开启Hystrix

//@SpringBootApplication
//激活hystrix
//@EnableCircuitBreaker
@EntityScan("cn.itcast.order.entity")
@SpringCloudApplication
public class RestOrderApplication {

可以看到，我们类上的注解越来越多，在微服务中，经常会引入上面的三个注解，于是 Spring就提供了
一个组合注解：@SpringCloudApplication

（3）配置熔断降级业务逻辑

	/**
	 * 降级方法
	 *  和需要收到保护的方法的返回值一致
	 *  方法参数一致
	 */
	public Product orderFallBack(Long id) {
		Product product = new Product();
		product.setProductName("触发降级方法");
		return product;
	}

（4）在需要受到保护的方法上使用Hystrix注解

	/**
	 * 使用注解配置熔断保护
	 *     fallbackmethod : 配置熔断之后的降级方法
	 */
	@HystrixCommand(fallbackMethod = "orderFallBack")
	@RequestMapping(value = "/buy/{id}",method = RequestMethod.GET)
	public Product findById(@PathVariable Long id) {
		if(id != 1) {
			throw  new  RuntimeException("服务器异常");
		}
		return restTemplate.getForObject("http://service-product/product/1",Product.class);
	}

超时设置：请求在超过1秒后都会返回错误信息，这是因为Hystix的默认超时时长为1，我们可以
通过配置修改这个值：

hystrix:
    command:
     default:
      execution:
       isolation:
        thread:
         timeoutInMilliseconds: 2000

默认的Fallback
我们刚才把fallback写在了某个业务方法上，如果这样的方法很多，那岂不是要写很多。所以我们可以
把Fallback配置加在类上，实现默认fallback：

Feign实现服务熔断

SpringCloud Fegin默认已为Feign整合了hystrix，所以添加Feign依赖后就不用在添加hystrix，那么怎
么才能让Feign的熔断机制生效呢，只要按以下步骤开发：

（1）引入依赖

feign:
 hystrix: #在feign中开启hystrix熔断
  enabled: true

（2）配置FeignClient接口的实现类

基于Feign实现熔断降级，那么降级方法需要配置到FeignClient接口的实现类中

/**
* 实现自定义的ProductFeginClient接口
*   在接口实现类中编写熔断降级方法
*/
@Component
public class ProductFeginClientCallBack implements ProductFeginClient {
/**
* 降级方法
*/
public Product findById(Long id) {
    Product product = new Product();
    product.setId(-1l);
    product.setProductName("熔断:触发降级方法");
    return product;
    }
}

（3）修改FeignClient添加hystrix熔断

/**
 * 声明需要调用的微服务名称
 *  @FeignClient
 *      * name : 服务提供者的名称
 *      * fallback : 配置熔断发生降级方法
 *                  实现类
 */
@FeignClient(name="service-product",fallback = ProductFeignClientCallBack.class)
public interface ProductFeignClient {

	/**
	 * 配置需要调用的微服务接口
	 */
	@RequestMapping(value="/product/{id}",method = RequestMethod.GET)
	public Product findById(@PathVariable("id") Long id);
}

服务熔断高级

我们知道，当请求失败，被拒绝，超时的时候，都会进入到降级方法中。但进入降级方法并不意味着断路器已经被打开。那么如何才能了解断路器中的状态呢？

Hystrix的监控平台

除了实现容错功能，Hystrix还提供了近乎实时的监控，HystrixCommand和HystrixObservableCommand在执行时，会生成执行结果和运行指标。比如每秒的请求数量，成功数量等。这些状态会暴露在Actuator提供的/health端点中。只需为项目添加spring-boot-actuator依赖，重启项目，访问 http://localhost:9001/actuator/hystrix.stream ,即可看到实时的监控数据。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mw5sWZiF-1588004172075)(C:\Users\51403\Desktop\面试复习\阅读笔记\微服务\服务熔断.assets\image-20200427233056993.png)]

（1）引入依赖

 <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
  </dependency>

（2）在启动类上配置

//激活hystrix
@EnableCircuitBreaker

（3）暴露所有接口，在yml文件中配置

management:
  endpoints:
    web:
      exposure:
        include: '*'

（4）在页面上进行访问

搭建Hystrix DashBoard监控

刚刚讨论了Hystrix的监控，但访问/hystrix.stream接口获取的都是已文字形式展示的信息。很难通过文字直观的展示系统的运行状态，所以Hystrix官方还提供了基于图形化的DashBoard（仪表板）监控平台。Hystrix仪表板可以显示每个断路器（被@HystrixCommand注解的方法）的状态。

（1）导入依赖

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
  <groupId>org.springframework.cloud</groupId>
  <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<dependency>
  <groupId>org.springframework.cloud</groupId>
  <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>

（2）添加EnableHystrixDashboard注解

在启动类使用@EnableHystrixDashboard注解激活仪表盘项目\

@EnableHystrixDashboard
public class OrderApplication {
    public static void main(String[] args) {
        SpringApplication.run(OrderApplication.class, args);
    }
}

（3）访问测试

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-WtQ4xXkQ-1588004172079)(C:\Users\51403\Desktop\面试复习\阅读笔记\微服务\服务熔断.assets\image-20200427234310105.png)]

（4）输入监控断点展示监控的详细数据

断路器聚合监控Turbine

在微服务架构体系中，每个服务都需要配置Hystrix DashBoard监控。如果每次只能查看单个实例的监控数据，就需要不断切换监控地址，这显然很不方便。要想看这个系统的Hystrix Dashboard数据就需要用到Hystrix Turbine。Turbine是一个聚合Hystrix 监控数据的工具，他可以将所有相关微服务的Hystrix 监控数据聚合到一起，方便使用。引入Turbine后，整个监控系统架构如下：

断路器的状态

熔断器有三个状态 CLOSED 、 OPEN 、 HALF_OPEN 熔断器默认关闭状态，当触发熔断后状态变更为
OPEN ,在等待到指定的时间，Hystrix会放请求检测服务是否开启，这期间熔断器会变为 HALF_OPEN 半
开启状态，熔断探测服务可用则继续变更为 CLOSED 关闭熔断器。

• Closed ：关闭状态（断路器关闭），所有请求都正常访问。代理类维护了最近调用失败的次数，
  如果某次调用失败，则使失败次数加1。如果最近失败次数超过了在给定时间内允许失败的阈值，
  则代理类切换到断开(Open)状态。此时代理开启了一个超时时钟，当该时钟超过了该时间，则切
  换到半断开（Half-Open）状态。该超时时间的设定是给了系统一次机会来修正导致调用失败的错
  误。
• Open ：打开状态（断路器打开），所有请求都会被降级。Hystix会对请求情况计数，当一定时间
  内失败请求百分比达到阈值，则触发熔断，断路器会完全关闭。默认失败比例的阈值是50%，请求
  次数最少不低于20次。
• Half Open ：半开状态，open状态不是永久的，打开后会进入休眠时间（默认是5S）。随后断路
  器会自动进入半开状态。此时会释放1次请求通过，若这个请求是健康的，则会关闭断路器，否则
  继续保持打开，再次进行5秒休眠计时。