1、Hystrix概念
是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方无法处理的异常,这样就保证了服务调用方的线程不会被长时间、不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
2、Hystrix作用
1⃣️服务降级
服务器忙,请稍后再试,不让客户端等待并立刻返回一个友好提示,fallback。
程序运行异常、超时、服务熔断触发服务降级、线程池/信号量打满也会导致服务降级。
2⃣️服务熔断
类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示。
服务的降级->进而熔断->恢复调用链路。
3⃣️服务限流
秒杀高并发等操作,严禁一窝蜂的过来拥挤,大家排队,一秒钟N个,有序进行。
3、构建Hystrix服务
3.1 服务提供端
1⃣️新建cloud-provider-hystrix-payment8001
2⃣️改POM
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
3⃣️写yml
4⃣️主启动
5⃣️业务类service
@Service
public class PaymentService {
public String paymentInfo_OK(Integer id){
return "线程池:"+Thread.currentThread().getName()+" paymentInfo_OK,id: " + id + "\t" + "哈哈";
}
public String paymentInfo_TimeOut(Integer id){
int timeNumber = 3;
try {
TimeUnit.SECONDS.sleep(timeNumber);
} catch (InterruptedException e) {
e.printStackTrace();
}
// int i = 10 / 0;
return "线程池:"+Thread.currentThread().getName()+" paymentInfo_TimeOut,id: " + id + "\t" + "哈哈,耗时"+"秒钟";
}
}
6⃣️业务类controller
3.2 服务消费端
1⃣️新建cloud-consumer-feign-hystrix-order80
2⃣️改POM
3⃣️写yml
4⃣️主启动
5⃣️业务类Service
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT")
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_timeout(@PathVariable("id") Integer id);
}
6⃣️业务类Controller
@RestController
@Slf4j
public class OrderHystrixController {
@Resource
private PaymentHystrixService paymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id){
String result = paymentHystrixService.paymentInfo_OK(id);
return result;
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
public String paymentInfo_timeout(@PathVariable("id") Integer id){
String result = paymentHystrixService.paymentInfo_timeout(id);
return result;
}
}
出现问题:以上代码进行服务端自测与消费端测试的时候,都是没问题的,但是当高并发压测后,8001同一层次的其它接口服务被困死,因为tomcat线程池里面的工作线程已经被挤占完毕。80此时调用8001,客户端访问响应缓慢。
解决方法:超时导致服务器变慢,超时不再等待;出错(宕机或程序运行出错),出错要有兜底。此时需要服务降级。
4、服务降级
4.1 降级配置@HystrixCommand
4.2 服务提供端到Fallback
1⃣️主启动类:添加新注解@EnableCircuitBreaker
@SpringBootApplication
@EnableEurekaClient
@EnableCircuitBreaker
public class PaymentHystrixMain8001 {
public static void main(String[] args) {
SpringApplication.run(PaymentHystrixMain8001.class,args);
}
}
2⃣️业务类Service:
在Service类使用@HystrixCommand注解,一旦调用服务方法失败并抛出了错误信息后,
会自动调用@HystrixCommand标注好的fallbackMethod调用类中的指定方法。
@HystrixCommand(fallbackMethod = "paymentInfo_TimeOutHandler",commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "5000")
})
public String paymentInfo_TimeOut(Integer id){
int timeNumber = 3;
try {
TimeUnit.SECONDS.sleep(timeNumber);
} catch (InterruptedException e) {
e.printStackTrace();
}
// int i = 10 / 0;
return "线程池:"+Thread.currentThread().getName()+" paymentInfo_TimeOut,id: " + id + "\t" + "哈哈,耗时"+"秒钟";
}
public String paymentInfo_TimeOutHandler(Integer id){
return "线程池:"+Thread.currentThread().getName()+" 8001系统繁忙或这运行报错,请稍后再试,id: " + id + "\t" + "呜呜呜";
}
4.3 服务消费端
1⃣️yml:
feign:
hystrix:
enabled: true
2⃣️主启动:添加新注解@EnableHystrix
@SpringBootApplication
@EnableFeignClients
@EnableHystrix
public class OrderHystrixMain80 {
public static void main(String[] args) {
SpringApplication.run(OrderHystrixMain80.class,args);
}
}
3⃣️业务类Controller
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
@HystrixCommand(fallbackMethod = "paymentTimeOutFallbackMethod",commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "1500")
})
public String paymentInfo_timeout(@PathVariable("id") Integer id){
String result = paymentHystrixService.paymentInfo_timeout(id);
return result;
}
4.4 全局服务降级
1⃣️问题:每个业务方法对应一个兜底的方法,代码膨胀。
2⃣️解决:配置一个全局Fallback
3⃣️业务类Controller:
- 全局fallback方法:payment_Global_FallbackMethod
- @DefaultProperties(defaultFallback = "payment_Global_FallbackMethod")
- @HystrixCommand
⚠️遵循“就近原则”,在方法上配置了降级方法就会调用该配置的方法,如果没有配置只有一个@HystrixCommand注解,就会调用全局降级方法。
@RestController
@Slf4j
@DefaultProperties(defaultFallback = "payment_Global_FallbackMethod")
public class OrderHystrixController {
@Resource
private PaymentHystrixService paymentHystrixService;
@GetMapping("/consumer/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id){
String result = paymentHystrixService.paymentInfo_OK(id);
return result;
}
@GetMapping("/consumer/payment/hystrix/timeout/{id}")
// @HystrixCommand(fallbackMethod = "paymentTimeOutFallbackMethod",commandProperties = {
// @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "1500")
// })
@HystrixCommand
public String paymentInfo_timeout(@PathVariable("id") Integer id){
String result = paymentHystrixService.paymentInfo_timeout(id);
return result;
}
public String paymentTimeOutFallbackMethod(@PathVariable("id") Integer id){
return "我是消费者80,对方支付系统繁忙情10分钟后再是,或者自己运行出错,请检查自己,呜呜呜~";
}
// 全局fallback
public String payment_Global_FallbackMethod(){
return "Global异常处理信息,请稍后再试,/ToT/~~";
}
}
4.5 统配服务降级
1⃣️问题:fallback和业务逻辑混合在一起,比较混乱
2⃣️解决:服务降级处理是在客户端80实现完成的,与服务端8001没有关系,只需要为Feign客户端定义的接口添加一个服务降级处理的实现类即可实现解耦。
- 新建一个PaymentFallbackService类实现PaymentHystrixService接口。
@Component
public class PaymentFallbackService implements PaymentHystrixService{
@Override
public String paymentInfo_OK(Integer id) {
return "---- PaymentFallbackService fall back paymentInfo_OK";
}
@Override
public String paymentInfo_timeout(Integer id) {
return "---- PaymentFallbackService fall back paymentInfo_timeout";
}
}
- 在PaymentHystrixService的@FeignClient注解上添加fallback属性,其属性值为 PaymentFallbackService.class,表示这些方法出现问题,调用的fallback是PaymentFallbackService对应的方法。
@Component
@FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT",fallback = PaymentFallbackService.class)
public interface PaymentHystrixService {
@GetMapping("/payment/hystrix/ok/{id}")
public String paymentInfo_OK(@PathVariable("id") Integer id);
@GetMapping("/payment/hystrix/timeout/{id}")
public String paymentInfo_timeout(@PathVariable("id") Integer id);
}
5、服务熔断
5.1 概念
类比保险丝达到最大服务访问后,直接拒绝访问,拉闸限电,然后调用服务降级的方法并返回友好提示。
熔断类型:
1⃣️熔断打开:请求不再进行调用当前服务,内部设置时钟一般为MTTR(平均故障处理时间),当打开时长达到所设时钟则进入半熔断状态。
2⃣️熔断关闭:熔断关闭不会对服务进行熔断
3⃣️熔断半开:部分请求根据规则调用当前服务,如果请求成功且符合规则则认为当前服务恢复正常,关闭熔断。
5.2 实操案例
1⃣️修改cloud-provider-hystrix-payment8001
2⃣️业务类Service
添加@HystrixCommand注解,配置一些属性。
// 服务熔断
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback", commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled", value = "true"), // 是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"), // 请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"), // 时间窗口期
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60"), // 失败率门限,后跳闸
})
public String paymentCircuitBreaker(@PathVariable("id") Integer id) {
if (id < 0) {
throw new RuntimeException("******id 不能负数");
}
String serialNumber = IdUtil.simpleUUID();
return Thread.currentThread().getName() + "\t" + "调用成功,流水号: " + serialNumber;
}
public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id) {
return "id 不能负数,请稍后再试,/(ㄒoㄒ)/~~ id: " + id;
}
3⃣️业务类Controller
@GetMapping("/payment/circuit/{id}")
public String paymentCircuitBreaker(@PathVariable("id") Integer id) {
String result = paymentService.paymentCircuitBreaker(id);
log.info("****result: " + result);
return result;
}
4⃣️测试:
正确的:http://localhost:8001/payment/circuit/31
错误的:http://localhost:8001/payment/circuit/31
多次错误(根据属性配置,10秒之内10次里面60%的错误)就会发生熔断,这个时候即使是正确的链接也会返回错误的fallback,在一段时间之后就会进入半熔断状态,如果正确才会回到正常的状态。
6、服务限流
后面高级篇讲解alibaba的Sentinel说明
7、服务监控hystrixDashboard
1⃣️新建cloud-consumer-hystrix-dashboard9001
2⃣️改pom
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
3⃣️写yml:server: port: 9001
4⃣️主启动:添加注解@EnableHystrixDashboard
5⃣️监测网站:http://localhost:9001/hystrix