概述
分布式系统面临的问题
复杂分布式系统结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免的失败
服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,从而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的资源会在几秒钟内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
通常发现一个模块的某个实例失败后,这时候这个模块依然还会接收流量,然而这个有问题的模块还调用了其他的模块,这样就会发生级联故障,或者叫做雪崩。
是什么
Hystrix是一个用于处理分布式系统的延迟 和容错 的开源库,在分布式系统里面,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间等待或者抛出调用方法无法处理的异常 ,这样就保障了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
作用
- 服务降级
- 服务熔断
- 接近实时的监控
说明
Hystrix官宣,停更进维
Hystrix重要概念
服务降级 fallback
服务不可用时,解决方案,比如服务器忙,请稍后再试,不让客户端等待并立刻返回一个友好提示,fallback
出现降级的情况
- 程序运行异常
- 超时
- 服务熔断时触发服务降级
- 线程池/信号量打满也会出现服务降级
服务熔断 break
类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示
就是微服务架构中的保险丝
服务限流 flowlimit
秒杀等高并发操作,严禁一窝蜂的过来拥挤,大家排队,一分钟N个,有序进行
Hystrix支付微服务的构建
构建moudlecloud-provider-hystrix-payment8001
pom
<dependencies>
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!--web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency><!-- 引入自己定义的api通用包,可以使用Payment支付Entity -->
<groupId>cn.nwnu.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>${project.version}</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
yml
server:
port: 8001
spring:
application:
name: cloud-provider-hystrix-payment
eureka:
client:
register-with-eureka: true
fetch-registry: true
service-url:
defaultZone: http://eureka7001.com:7001/rureka/
启动类
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableEurekaClient
public class PaymentHystrixMain8001 {
public static void Main(String args[]){
SpringApplication.run(PaymentHystrixMain8001.class,args);
}
}
业务类
service
@Service
public class PaymentService {
/**
* 正常访问
* @param id
* @return
*/
public String paymetnInfo_OK(Integer id){
return "线程池:"+Thread.currentThread().getName()+"paymentInfo_OK,id"+id;
}
/**
* 模拟超时
* @param id
* @return
*/
public String paymetnInfo_TimeOut(Integer id){
int timeNumber = 3;
//睡timeNumber秒
try{
TimeUnit.SECONDS.sleep(timeNumber);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "线程池:"+Thread.currentThread().getName()+"paymentInfo_TimeOut,id"+id+"耗时"+timeNumber+"秒";
}
}
controller
@RestController
@Slf4j
public class PaymentController {
@Resource
private PaymentService paymentService;
@Value("${server.port}")
private String serverPort;
@GetMapping("/payment/hystrix/ok/{id}")
public String paumentInfo_OK(@PathVariable Integer id){
String result = paymentService.paymetnInfo_OK(id);
log.info("result:"+result);
return result;
}
@GetMapping("/payment/hystrix/timeout/{id}")
public String paumentInfo_TimeOut(@PathVariable Integer id){
String result = paymentService.paymetnInfo_TimeOut(id);
log.info("result:"+result);
return result;
}
}
测试
浏览器url访问都正常,ok响应迅速
以上述为根基平台,从正确->错误->服务熔断->恢复
开启jmeter测试
发送2000个请求时,两个测试都响应缓慢
为什么会被卡死
tomcat的默认工作线程被打满了,没有多余的线程来分解压力和处理
jmeter压测结论
上一步还是提供者8001自己测试,假如此时外部的消费者也来访问,那消费者只能等待,最准导致消费端80不满意,服务端8001直接被拖死。
添加消费者80
cloud-consumer-feign-hystrix-order80
pom
<dependencies>
<!--openfeign-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!-- 引入自己定义的api通用包,可以使用Payment支付Entity -->
<dependency>
<groupId>cn.nwnu.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>${project.version}</version>
</dependency>
<!--web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--一般基础通用配置-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
application.yml
server:
port: 80
eureka:
client:
register-with-eureka: false
service-url: http://eureka7001.com:7001/eureka/
启动类
加注解@EnableFeignClients
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableFeignClients
public class OrderHystrixMain80 {
public static void main(String args[]){
SpringApplication.run(OrderHystrixMain80.class, args);
}
}
业务类
service
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
String paumentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
String paumentInfo_TimeOut(@PathVariable("id") Integer id);
}
controller
@RestController
@Slf4j
public class OrderHystrixController {
@Resource
private PaymentHystrixService paymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paumentInfo_OK(@PathVariable("id") Integer id){
String result = paymentHystrixService.paumentInfo_OK(id);
return result;
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
public String paumentInfo_TimeOut(@PathVariable("id") Integer id){
String result = paymentHystrixService.paumentInfo_TimeOut(id);
return result;
}
}
测试
jemter未测试时,80端口响应快,jemter 2W个线程压8001时,80端口要么响应缓慢、要么直接被压死。
java.net.SocketTimeoutException: Read timed out
故障原因
8001同一层次的其他接口服务被困死,此时80端口调用8001是,响应速度缓慢
解决方案
- 超时导致服务器变慢:超时不载等待
服务超时,消费者不能一直等待,必须要有服务降级 - 出错(服务器宕机或程序出错):出错要有兜底,不能直接返回错误给用户,服务器宕机,也要服务降级
- 服务Ok,消费者80自己处故障或自我要求(自己的等待时间小于服务提供者的响应时间)80自己处理降级
因为有上述故障或者不佳表现,才有降级/容错/限流等技术诞生
服务降级
降级配置
@HystrixCommand
热部署方式对java代码的改动比较敏感,但对@HystrixCommand内属性修改后,建议重启项目,避免踩坑
提供者8001 fallback
- 业务类启用(service)
@HystrixCommand
注解
fallbackMethod
指定兜底方法
启用@HystrixCommand注解后,超时或者运行错误时,都会启用兜底方案
commandProperties
划定红线
commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")
}
指定3秒之内为正常范围,超过3s,服务降级,返回兜底方案
/**
* 模拟超时
* 启用@HystrixCommand注解后,超时或者运行错误时,都会启用兜底方案
* @param id
* @return
*/
@HystrixCommand(fallbackMethod = "paymetnInfo_TimeOutHandler",commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "5000")
})//commandProperties(value指的是标注的红线3000ms) 注明三秒之内就是正常的业务逻辑,
// 划定红线,三秒以内正常。超过3秒,出错,使用兜底方案paymetnInfo_TimeOutHandler
public String paymetnInfo_TimeOut(Integer id){
//int age = 10/0; //运行错误
int timeNumber = 12; //模拟超时
//睡timeNumber秒
try{
TimeUnit.SECONDS.sleep(timeNumber);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "线程池:"+Thread.currentThread().getName()+"paymentInfo_TimeOut,id"+id+"耗时"+timeNumber+"秒";
}
/**
* 兜底方法,方法名跟上面@HystrixCommand(fallbackMethod = "paymetnInfo_TimeOutHandler")
* 的fallbackMethod保持一致
* @param id
* @return
*/
public String paymetnInfo_TimeOutHandler(Integer id){
return "8001系统繁忙或者运行错误,请稍后再试!";
}
- 启动类激活
添加@EnableCircuitBreaker
注解, 激活服务降级
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableEurekaClient
@EnableCircuitBreaker //激活服务降级
public class PaymentHystrixMain8001 {
public static void main(String args[]){
SpringApplication.run(PaymentHystrixMain8001.class,args);
}
}
消费者80 fallback
流程,原理同提供者基本一样
区别:启动类注解不同,提供者使用@EnableCircuitBreaker
,消费者使用@EnableHystrix
application.yml
feign:
hystrix:
enabled: true #开启hystrix
启动类
添加@EnableHystrix
注解
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableFeignClients
@EnableHystrix
public class OrderHystrixMain80 {
public static void main(String args[]){
SpringApplication.run(OrderHystrixMain80.class, args);
}
}
业务类(controller)
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
@HystrixCommand(fallbackMethod = "paymentTimeOutFallBackMethod", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1500")
})
public String paumentInfo_TimeOut(@PathVariable("id") Integer id){
String result = paymentHystrixService.paumentInfo_TimeOut(id);
return result;
}
/**
* 兜底方法
* @param id
* @return
*/
public String paymentTimeOutFallBackMethod(@PathVariable("id") Integer id){
return "我是消费者80,对方系统繁忙,请在10s后重试或者检查自己";
}
Hystrix配置全局服务降级
- 在controller上使用
@DefaultProperties
注解
@DefaultProperties(defaultFallback = "paymentGlobalFallBackMethod")
defaultFallback是指定的兜底方法
- 定义paymentGlobalFallBackMethod
/**
* 全局fallback
*/
public String paymentGlobalFallBackMethod(){
return "Global异常处理信息,请稍后再试";
}
- 在类上使用
@HystrixCommand
注解,标明使用服务降级
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
// @HystrixCommand(fallbackMethod = "paymentTimeOutFallBackMethod", commandProperties = {
// @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1500")
// })
@HystrixCommand
public String paumentInfo_TimeOut(@PathVariable("id") Integer id){
String result = paymentHystrixService.paumentInfo_TimeOut(id);
return result;
}
通配服务降级
上述代码兜底方法和业务代码混在一起,代码混乱,在开发中可以采取通配的方式
- 我们可以实现PaymentHystrixService接口,从而实现统一的fallback( PaymentFallbackService implements PaymentHystrixService)
- 在PaymentHystrixService接口的
@FeignClient
注解中添加属性fallback = PaymentFallbackService.class
- PaymentHystrixService
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT", fallback = PaymentFallbackService.class)
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
String paumentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
String paumentInfo_TimeOut(@PathVariable("id") Integer id);
}
- PaymentFallbackService
@Component
public class PaymentFallbackService implements PaymentHystrixService {
@Override
public String paumentInfo_OK(Integer id) {
return "----PaymentFallbackService fall back-paumentInfo_OK";
}
@Override
public String paumentInfo_TimeOut(Integer id) {
return "----PaymentFallbackService fall back-paumentInfo_TimeOut";
}
}
在配置中必须开启Hystrix
服务熔断
什么是熔断
熔断机制概述
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应事件太长久时,会进行服务降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。
当检测到该节点服务调用响应正常后,恢复调用链路。
在Spring Cloud框架里,熔断机制通过Hystrix实现。Hystrix会监控微服务间的调用状况,当失败调用到一定的阈值,就会启动熔断机制。熔断机制的注解是@HystrixCommand
实例
在一定的时间类请求失败次数达到配置的失败率时,服务熔断机制开启,处于半关闭状态(偶尔会发送请求),如果服务有响应,则重新关闭服务熔断,如果还是没反应,则继续开启服务熔断,如此循环
在提供者的service中的类添加注解
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"),// 是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),// 请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), // 时间窗口期
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"),// 失败率达到多少后跳闸
})//在时间窗口期内*(10s)假设有10次请求(请求次数),有60%失败,则跳闸
详细代码如下:
package cn.nwnu.springcloud.services;
//=====服务熔断
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback",commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled",value = "true"),// 是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),// 请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), // 时间窗口期
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"),// 失败率达到多少后跳闸
})//在时间窗口期内*(10s)假设有10次请求(请求次数),有60%失败,则跳闸
public String paymentCircuitBreaker(@PathVariable("id") Integer id)
{
if(id < 0)
{
throw new RuntimeException("******id 不能负数");
}
String serialNumber = IdUtil.simpleUUID();//hutool工具包生成ID
return Thread.currentThread().getName()+"\t"+"调用成功,流水号: " + serialNumber;
}
public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id)
{
return "id 不能负数,请稍后再试,/(ㄒoㄒ)/~~ id: " +id;
}
controller
//====服务熔断
@GetMapping("/payment/circuit/{id}")
public String paymentCircuitBreaker(@PathVariable("id") Integer id){
String result = paymentService.paymentCircuitBreaker(id);
log.info("*****result:"+result);
return result;
}
测试
正确
错误
服务启动后,点击正确请求,响应成功,错误请求,返回兜底方案。当连续点击错误请求占比达到60%后,再去点击正确请求,返回的也是兜底方案,连续点击若干次后,才开始响应。
熔断总结
熔断类型
- 熔断打开
请求不再调用当前服务,内部设置时钟一般为MTTR(平均故障处理时间),当打开时长达到所设时钟,进入半熔断状态 - 熔断关闭
熔断关闭不会对服务进行熔断 - 熔断半开
部分请求根据规则调用当前服务,如果请求成功且符合规则则认为当前服务恢复正常,关闭熔断
熔断配置参数
快照时间窗
断路器确定是否打开需要统计一些请求和错误数据,二统计的时间范围就是快照时间窗,默认为最近的10s
请求总数阈值
在快照时间窗内,必须满足请求总数阈值才有资格熔断。默认为20,意味着在10s内,如果Hystrix命令的调用次数不足20次,即使所有的请求超时或者其他原因失败,断路器都不会打开
错误百分比阈值
当请求总数在快照时间窗内超过了阈值,比如发生了30次调用。有15次发生了超时异常,也就是超过50%的错误百分比,在默认设定的50%阈值情况下,这时,熔断器就会打开
断路器开启的条件
- 当满足一定的阈值的时候(默认10s超过20个请求)
- 当失败率达到一定的时候(默认10s内超过50%的请求失败)
达到以上条件,断路器就会打开,断路器开启时,所有的的请求都不会转发,一段时间后(默认5s)这个断路器是半开状态,会让其中的一个请求转发。如果成功,断路器关闭,若失败继续开启,再过5s,半开…
断路器开启后
- 再有请求调用的时候,将不会调用主逻辑,而是直接调用降级fallback,通过断路器,实现了自动地发现错误,并将降级逻辑切换为主逻辑,减少响应延迟的效果
- 如何恢复主逻辑?
Hystrix提供了自动恢复功能,断路器开启后,Hystrix会启动一个休眠时间窗,在这个时间窗内,降级逻辑会成为主逻辑,当休眠时间窗到期,断路器会处于半开状态,释放一次请求到主逻辑上,如果此次调用正常返回,name断路器将关闭,主逻辑恢复,如果这次请求依然有问题,断路器继续进入打开状态,休眠时间窗口重新计时。
服务限流
见alibaba的Sentinel
Hystrix图形化Dashboard搭建
概述
除了隔离依赖服务的调用外,Hystrix还提供了准实时的调用监控(Hystrix DashBoard),Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表的形式展现给用户,包括每秒执行多少个请求,多少成功,多少失败,Netflix通过hystrix-metrics-event-stream项目实现对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面。
实例
新建Moudle
cloud-consumer-hystrix-dashboard9001
pom.xml
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
application.yml
server:
port: 9001
启动类
添加@EnableHystrixDashboard
注解
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableHystrixDashboard
public class DashboardMain9001 {
public static void main(String args[]){
SpringApplication.run(DashboardMain9001.class, args);
}
}
测试
修改hystrix服务(8001)
注意
必须在服务提供者的pom依赖中有web和actuator
<!--web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
在启动类中做配置
@SpringBootApplication(exclude = {DataSourceAutoConfiguration.class})
@EnableEurekaClient
@EnableCircuitBreaker //激活服务降级
public class PaymentHystrixMain8001 {
public static void main(String args[]){
SpringApplication.run(PaymentHystrixMain8001.class,args);
}
/**
*此配置是为了服务监控而配置,与服务容错本身无关,springcloud升级后的坑
*ServletRegistrationBean因为springboot的默认路径不是"/hystrix.stream",
*只要在自己的项目里配置上下面的servlet就可以了
*/
@Bean
public ServletRegistrationBean getServlet() {
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
}
9001监控8001
在9001仪表盘中url地址添加http://localhost:8001/hystrix.stream