一、spring cloud hystrix简介
什么是熔断?例如我们家里常见的保险丝,电流异常的熔断;股市异常,交易的熔断。这些熔断其实都是为了避免更大的风险。它其实是一种保护策略。
在我们微服务架构里面,一个请求可能依赖后端的多个服务。如果某个服务出现故障,那么这个请求线程就无法被释放,如果我们的请求增加很多的情况下,就会导致大量的请求堆积,是我们的服务资源消耗殆尽,最终导致“雪崩”。如果出现这个问题,我们就需要“熔断”了,所以“熔断”其实就是为了保护系统。
“熔断”会触发降级。什么是降级呢?就是我们的A方案行不通,就改用B方案。例如在我们的分布式架构中,我们的A服务请求B服务,但是B服务出现了问题,就会导致这个请求失败,这个时候我们就可以选择返回一个默认数据给A服务,例如返回系统繁忙,或者把这个异常返回给A,这就是一个降级的机制,降低我们的服务等级。例如我们日常机房中的UPS备用电源。
降级分为:主动降级、被动降级。
主动降级:例如双十一大促销,我们可以关闭电商的点赞、评论等非核心的功能模块,把服务器的所有资源提供给核心功能使用。被动降级:熔断降级、限流降级。限流降级是什么呢?例如12306的派对购票,通多限流,对用户提供服务的降级,但是可以保证在系统不挂掉的情况下给部分用户提供稳定的服务。
“熔断”实际上是一种降级策略。
Hystrix是netflix公司提供的一个组件,它的作用是:
- 对通过第三方客户端库访问的依赖项(通常是通过网络)的延迟和故障进行保护和控制
- 在复杂的分布式系统中阻止级联故障,例如“雪崩的问题”
- 快速失败,快速恢复
- 回退,尽可能优雅的降级
- 启用实时监控、警报和操作控制
Hystrix中游三种降级方案:
1、熔断触发降级
- 如何触发熔断呢?
任何的请求要有一个判断阀值,一个请求在10s内发起20次请求,失败率超过50%,则达到熔断条件触发熔断。从熔断开启到后续5s内的请求都不会发送到远程服务器。
- 熔断会有一个自动恢复
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"),//开启熔断状态
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "5"),//触发熔断的最小请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "5000"),//设置5s的熔断时间
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "50")//请求失败率百分比(50%)
},fallbackMethod = "fallback")//fallbackMethod熔断回调方法
@GetMapping("queryOrder/{num}")
public String queryOrder(@PathVariable("num") int num){
if (num%2==0){
return "正常访问";
}
return restTemplate.getForObject("http://localhost:8080/orders",String.class);
}
public String fallback(int num){
//兜底数据可以在这里完成
return "系统繁忙";
}
2、请求超时触发降级
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000"),//设置请求超时时间为3s
},fallbackMethod = "timeoutFallback")
@GetMapping("queryOrderTimeout")
public String queryOrderTimeout(){
return restTemplate.getForObject("http://localhost:8080/orders",String.class);
}
public String timeoutFallback(){
//兜底数据可以在这里完成
return "请求超时";
}
3、资源隔离触发降级
平台隔离、部署隔离、业务隔离、服务隔离、资源隔离(CPU、线程、内存)。可以通过
线程池隔离:
我们可以给每个服务分配单独的线程池,A服务线程进A线程池,B服务进B服务线程池。如果A服务挂掉导致线程堆积,A线程池资源迅速被消耗殆尽,A服务后续请求则排队等待,不会消耗B服务线程池的资源,导致雪崩。
信号量(semaphore)隔离:
比如我们针对访问资源进行限制,1秒钟只允许10个请求访问的并发量,这其实就是一种限流策略了,从而达到资源保护的目的。
二、通过demo来学习
我们在上一篇spring-cloud-config配置中心demo项目的基础上来学习。我们在该maven项目模块下新增一个user-service用户中心项目,用户中心是一个maven模块项目。
1、user-service项目依赖
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>spring-cloud-netflix</artifactId>
<groupId>com.example</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>user-service-7070</artifactId>
<packaging>pom</packaging>
<name>user-service-7070</name>
<!-- FIXME change it to the project's website -->
<url>http://www.example.com</url>
<modules>
<module>user-service-api</module>
<module>user-service-provider</module>
</modules>
<properties>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
<maven.compiler.source>1.7</maven.compiler.source>
<maven.compiler.target>1.7</maven.compiler.target>
</properties>
<dependencies>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.11</version>
<scope>test</scope>
</dependency>
</dependencies>
</project>
2、user-service-api项目
user-service-api项目也是一个maven项目,功能和订单中心order-service中的api项目一样。
3、user-service-provider项目
user-service-provider是一个spring项目,接下来我们看一下provider项目的具体情况。
(1)、provider项目pom.xml依赖
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<!-- <groupId>org.springframework.boot</groupId>-->
<!-- <artifactId>spring-boot-starter-parent</artifactId>-->
<!-- <version>2.3.4.RELEASE</version>-->
<!-- <relativePath/> <!– lookup parent from repository –>-->
<groupId>com.example</groupId>
<artifactId>user-service-7070</artifactId>
<version>1.0-SNAPSHOT</version>
</parent>
<groupId>com.example</groupId>
<artifactId>user-service-provider</artifactId>
<version>0.0.1-SNAPSHOT</version>
<name>user-service-provider</name>
<description>Demo project for Spring Boot</description>
<properties>
<!-- <java.version>1.8</java.version>-->
<!-- <spring-cloud.version>Hoxton.SR8</spring-cloud.version>-->
</properties>
<dependencies>
<dependency>
<groupId>com.example</groupId>
<artifactId>order-service-api</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-config-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-bus-kafka</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
</plugin>
</plugins>
</build>
</project>
(2)、provider项目bootstarp.yml配置
spring:
cloud:
config:
discovery:
enabled: true
service-id: config-service
bus:
enabled: true
trace:
enabled: true
refresh:
enabled: true
profiles:
active: prd
application:
name: user-service
kafka:
bootstrap-servers: localhost:9092
consumer:
group-id: user-service
eureka:
client:
service-url:
defaultZone: http://localhost:8081/eureka
feign: #openFeign熔断降级开关
hystrix:
enabled: true
hystrix:
command:
default: #全局配置,针对某个方法配置:feignClient#method(param)
execution:
timeout:
enable: true #开启请求超时熔断降级
isolation:
thread:
timeoutInMilliseconds: 3000 #设置超时时间为3s
OrderServiceFeignClient#orders(): #针对OrderServiceFeignClient中的order()方法设置资源隔离
execution:
isolation:
strategy: SEMAPHORE #设置信息量隔离触发降级
semaphore:
maxConcurrentRequests: 10 #设置最大并发请求数10
OrderServiceFeignClient#insert():
execution:
isolation:
strategy: THREAD
threadpool: #设置线程池资源信息
order-service: #针对order-service服务设置
coreSize: 2 #
maxQueueSize: 1000 #设置最大队列大小
queueSizeRejectionThreshold: 800 #超过800拒绝
ribbon: #ribbon的超时时间一定要大于hystrix的超时时间
ReadTimeout: 10000
ConnectTimeout: 100000
server:
port: 7070
management:
endpoints:
web:
exposure:
include: refresh,hystrix.stream #refresh打开actuator的配置文件刷新设置;hystrix.stream:打开hystrix状态信息获取
(3)、provider项目代码
package com.example.userserviceprovider;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker;
import org.springframework.cloud.openfeign.EnableFeignClients;
import org.springframework.context.annotation.ComponentScan;
@ComponentScan(basePackages = {"com.example"})
@EnableFeignClients(basePackages = "com.example")
@EnableCircuitBreaker //开启hystrix服务
@SpringBootApplication
public class UserServiceProviderApplication {
public static void main(String[] args) {
SpringApplication.run(UserServiceProviderApplication.class, args);
}
}
package com.example.userserviceprovider.config;
import org.springframework.boot.web.client.RestTemplateBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;
@Configuration
public class RestTemplateConfiguration {
@Bean
public RestTemplate restTemplate(RestTemplateBuilder restTemplateBuilder){
return restTemplateBuilder.build();
}
}
package com.example.userserviceprovider.controller;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
//可以针对整个类级别设置公共的降级回调方法
//@DefaultProperties(defaultFallback = "fallback")
@RestController
public class HystrixController {
@Autowired
private RestTemplate restTemplate;
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"),//开启熔断状态
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "5"),//触发熔断的最小请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "5000"),//设置5s的熔断时间
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "50")//请求失败率百分比(50%)
},fallbackMethod = "fallback")//fallbackMethod熔断回调方法
@GetMapping("queryOrder/{num}")
public String queryOrder(@PathVariable("num") int num){
if (num%2==0){
return "正常访问";
}
return restTemplate.getForObject("http://localhost:6061/orders",String.class);
}
public String fallback(int num){
//兜底数据可以在这里完成
return "系统繁忙";
}
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000"),//设置请求超时时间为3s
},fallbackMethod = "timeoutFallback")
@GetMapping("queryOrderTimeout")
public String queryOrderTimeout(){
return restTemplate.getForObject("http://localhost:6061/orders",String.class);
}
public String timeoutFallback(){
//兜底数据可以在这里完成
return "请求超时";
}
}
package com.example.userserviceprovider.controller;
import com.example.clients.OrderServiceFeignClient;
import com.example.dto.OrderDto;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
public class HystrixFeignController {
@Autowired
OrderServiceFeignClient orderServiceFeignClient;//order-service-api中的feignClient
@GetMapping("queryOrder")
public String queryOrder(){
return orderServiceFeignClient.orders();
}
@PostMapping("insertOrder")
public String insertOrder(){
OrderDto orderDto = new OrderDto();
orderDto.setOrderId("orderId001");
return orderServiceFeignClient.insert(orderDto) > 0 ? "SUCCESS" : "FAILED";
}
}
三、总结
配置好Hystrix后,我们可以使用hystrix-dashboard来监控程序的熔断情况。新建dashboard项目点此链接。