一、Hystrix(熔断器)概述
1、分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免地失败。
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,即所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列、线程和其他系统资源紧张,导致整个系统发生更多的级联故障。这些都表明需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不至于影响整个应用程序或系统。
2、Hystrix是什么
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
3、Hystrix能干什么
服务降级
服务熔断
服务限流
接近实时的监控
参考:官方使用文档
二、服务熔断
1、服务熔断
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回“错误”的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值(缺省是5秒内20次调用失败)就会启动熔断机制。熔断机制的注解是@HystrixCommand。该机制类似于AOP中的异常通知。
2、示例
①参考microservicecloud-provider-dept-8001新建microservicecloud-provider-dept-hystrix-8001应用
②pom文件:在microservicecloud-provider-dept-8001的pom依赖的基础上添加Hystrix启动器依赖
<dependencies>
<!-- hystrix -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<!-- 引入自己定义的api通用包,可以使用Dept部门Entity -->
<dependency>
<groupId>com.atguigu.springcloud</groupId>
<artifactId>microservicecloud-api</artifactId>
<version>${project.version}</version>
</dependency>
<!-- 将微服务provider侧注册进eureka -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>druid</artifactId>
</dependency>
<dependency>
<groupId>ch.qos.logback</groupId>
<artifactId>logback-core</artifactId>
</dependency>
<dependency>
<groupId>org.mybatis.spring.boot</groupId>
<artifactId>mybatis-spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-jetty</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
</dependency>
<!-- 修改后立即生效,热部署 -->
<dependency>
<groupId>org.springframework</groupId>
<artifactId>springloaded</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
</dependencies>
③复制microservicecloud-provider-dept-8001的主配置文件至microservicecloud-provider-dept-hystrix-8001,并修改Eureka实例的名字为
microservicecloud-dept8001-hystrix(并非一定要改,只是和工程名对应):
server:
port: 8001
mybatis:
config-location: classpath:mybatis/mybatis.cfg.xml
type-aliases-package: com.atguigu.springcloud.entities
mapper-locations:
- classpath:mybatis/mapper/**/*.xml
spring:
application:
name: microservicecloud-dept
datasource:
type: com.alibaba.druid.pool.DruidDataSource
driver-class-name: org.gjt.mm.mysql.Driver
url: jdbc:mysql://localhost:3306/cloudDB01
username: root
password: 123456
dbcp2:
min-idle: 5
initial-size: 5
max-total: 5
max-wait-millis: 200
eureka:
instance:
instance-id: microservicecloud-dept8001-hystrix
prefer-ip-address: true
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
info:
app.name: atguigu-microservicecloud
company.name: www.atguigu.com
build.artifactId: $project.artifactId$
build.version: $project.version$
④将microservicecloud-provider-dept-8001工程中的mybatis配置文件和controller、service、dao等代码拷贝至microservicecloud-provider-dept-hystrix-8001中
⑤修改修改DeptController,内容如下:使用@HystrixCommand注解声明熔断的回调方法
@RestController
public class DeptController {
@Autowired
private DeptService service;
@RequestMapping(value = "/dept/get/{id}", method = RequestMethod.GET)
@HystrixCommand(fallbackMethod = "hystrixFallBack")
public Dept get(@PathVariable("id") Long id) {
Dept dept = this.service.get(id);
if (null == dept) {
throw new RuntimeException("该ID:" + id + "没有没有对应的信息");
}
return dept;
}
/**
* 服务熔断的回调方法
*
* @param id
* @return
*/
public Dept hystrixFallBack(@PathVariable("id") Long id) {
return new Dept().setDeptno(id).setDname("该ID:" + id + "没有没有对应的信息,null--@HystrixCommand")
.setDb_source("no this database in MySQL");
}
}
⑥启用Hystrix:主启动类标注@EnableCircuitBreaker(或者@EnableHystrix)
@SpringBootApplication
@EnableEurekaClient // 本服务启动后会自动注册进eureka服务中
@EnableDiscoveryClient
@EnableCircuitBreaker // 对Hystrix熔断机制的支持
public class DeptProvider8001_Hystrix_App {
public static void main(String args[]) {
SpringApplication.run(DeptProvider8001_Hystrix_App.class, args);
}
}
⑦启动测试:先启动Eureka集群,再启动新建的这个服务提供者,最后启动消费者,访问:http://localhost:8081/consumer/dept/get/112
总结
:服务熔断其实就是在服务超时或异常时调用提供的回调方法尽快的返回一个信息给服务调用者。
另外
:@EnableHystrix或@EnableCircuitBreaker必须和@HystrixCommand同时使用,否则会报错:
java.lang.ClassNotFoundException: com.netflix.hystrix.contrib.javanica.aop.aspectj.HystrixCommandAspect
三、服务降级
1、说明:整体资源不够用时,忍痛将某些服务先关掉,待渡过难关,再开启这些服务。服务降级处理是在服务消费者端(服务客户端)完成的,与服务提供端没有关系
2、示例
①修改microservicecloud-api工程,根据已有的DeptClientService接口新建一个实现了FallbackFactory接口的类DeptClientServiceFallbackFactory,并将该类纳入IOC容器管理(标注@Component注解)
@Component // 一定要加该注解
public class DeptClientServiceFallbackFactory implements FallbackFactory<DeptClientService> {
@Override
public DeptClientService create(Throwable throwable) {
return new DeptClientService() {
@Override
public Dept get(long id) {
return new Dept().setDeptno(id).setDname("该ID:" + id + "没有没有对应的信息,Consumer客户端提供的降级信息,此刻服务Provider已经关闭")
.setDb_source("no this database in MySQL");
}
@Override
public List<Dept> list() {
return null;
}
@Override
public boolean add(Dept dept) {
return false;
}
};
}
}
个人理解:这一步的作用仅仅是为了解耦,在服务熔断中我们知道——如果我们在服务提供者端进行熔断处理,则需要为每一个REST接口标注@HystrixCommand注解并提供相应的回调方法(当然多个接口可以使用同一个回调方法),这就会将业务和熔断的逻辑混杂,使代码结构混乱,使用这种方式相当于将服务熔断的回调抽取了出来一个类统一进行处理,使熔断和业务进行解耦。
在泛型的入参(DeptClientService)中指明了该熔断的回调函数类针对哪个微服务起作用,微服务的值通过DeptClientService类的@FeignClient的value属性值指定,由此说明在SpringCloud中Hystrix依赖于Feign
②在microservicecloud-api工程的DeptClientService接口的注解@FeignClient中添加fallbackFactory属性值:标明该微服务的熔断由哪个回调方法类实现
@FeignClient(value = "MICROSERVICECLOUD-DEPT", fallbackFactory = DeptClientServiceFallbackFactory.class)
public interface DeptClientService {
@RequestMapping(value = "/dept/get/{id}", method = RequestMethod.GET)
public Dept get(@PathVariable("id") long id);
@RequestMapping(value = "/dept/list", method = RequestMethod.GET)
public List<Dept> list();
@RequestMapping(value = "/dept/add", method = RequestMethod.POST)
public boolean add(Dept dept);
}
个人理解:@FeignClient标注的类实质上只对服务消费端起作用(此处将其放在公共的api中是考虑到可能会有多个服务消费端同时需要服务降级),因此可以说明服务降级是在服务消费端(即服务的客户端)实现的,而服务熔断是在服务提供端实现的。
③将microservicecloud-api工程mvn clean install
④修改microservicecloud-consumer-dept-feign工程修改的YML,添加如下内容:在客户端开启熔断(编译器可能识别不到feign的hystrix属性,不用理会)
feign:
hystrix:
enabled: true
⑤启动测试:启动eureka集群、启动microservicecloud-provider-dept-8001(注意不是microservicecloud-provider-dept-hystrix-8001,因为在microservicecloud-provider-dept-hystrix-8001服务端开启了服务熔断,避免影响此处测试的服务降级)、启动microservicecloud-consumer-dept-feign,访问http://localhost:8081/consumer/dept/get/1
停掉microservicecloud-provider-dept-8001,再访问:http://localhost:8081/consumer/dept/get/1
四、服务熔断和服务降级总结
服务熔断:一般是某个服务故障或者异常引起,类似现实世界中的“保险丝”,当某个异常条件被触发,直接熔断这个服务,而不是一直等到此服务超时。
服务降级:一般是从整体负荷考虑。就是当某个服务熔断之后(这说明Hystrix能监控到服务是否被熔断以及服务是否已恢复),服务器将不再被调用,此时客户端可以自己准备一个本地的fallback回调,返回一个缺省值。这样做,虽然服务水平下降,但是可用,比直接挂掉要好。
五、HystrixDashboard
除了隔离依赖服务的调用以外,Hystrix还提供了准实时的调用监控(Hystrix Dashboard),Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户,包括每秒执行多少请求、多少成功、多少失败等。Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控。SpringCloud也提供了Hystrix Dashboard的整合,将监控内容转化成可视化界面。也就是说HystrixDashboard是用来监控Hystrix应用的。
1、新建模块microservicecloud-consumer-hystrix-dashboard
2、添加依赖:
<dependencies>
<!-- 自己定义的api -->
<dependency>
<groupId>com.atguigu.springcloud</groupId>
<artifactId>microservicecloud-api</artifactId>
<version>${project.version}</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!-- 修改后立即生效,热部署 -->
<dependency>
<groupId>org.springframework</groupId>
<artifactId>springloaded</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
</dependency>
<!-- Ribbon相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
<!-- feign相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-feign</artifactId>
</dependency>
<!-- hystrix和 hystrix-dashboard相关 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>
</dependencies>
2、主配置文件:
server:
port: 9001
3、主启动类:添加注解@EnableHystrixDashboard
@SpringBootApplication
@EnableHystrixDashboard
public class DeptConsumer_Dashboard_App {
public static void main(String args[]) {
SpringApplication.run(DeptConsumer_Dashboard_App.class, args);
}
}
4、所有Provider微服务提供类(8001/8002/8003)都需要监控依赖配置:pom中需要有actuator
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
5、启动microservicecloud-consumer-hystrix-dashboard,访问:http://localhost:9001/hystrix,出现如下画面表名成功
6、测试:启动Eureka集群,启动microservicecloud-provider-dept-hystrix-8001,启动microservicecloud-consumer-hystrix-dashboard,访问http://localhost:8001/hystrix.stream,在访问过服务提供端之后会出现如下画面
7、使用Hystrix Dashboard监控服务提供者,只需要将http://localhost:8001/hystrix.stream地址配置在Hystrix Dashboard的页面上即可,也就是说通过Hystrix Dashboard会将http://localhost:8001/hystrix.stream获取到的数据图形化,表格化等
效果:
怎么观察呢?七色一圈一线
访问后的监控: