SpringCloud全家桶：SpringCloud01 – 初识
SpringCloud全家桶：SpringCloud02 – 服务注册 Eureka Zookeeper Consul Nacos
SpringCloud全家桶：SpringCloud03 – 服务调用 Ribbon OpenFeign
SpringCloud全家桶：SpringCloud04 – 服务降级熔断 Hystrix Sentinel
SpringCloud全家桶：SpringCloud05 – 服务网关 Gateway
SpringCloud全家桶：SpringCloud06 – 服务配置 Config Nacos
SpringCloud全家桶：SpringCloud07 – 消息总线 Bus
SpringCloud全家桶：SpringCloud08 – 消息驱动 Stream
SpringCloud全家桶：SpringCloud09 – 分布式请求链路追踪 Sleuth
SpringCloud全家桶：SpringCloud10 – Alibaba Nacos
SpringCloud全家桶：SpringCloud11 – Alibaba Sentinel
SpringCloud全家桶：SpringCloud12 – Alibaba 分布式事务 Seata
服务降级熔断限流
分布式当前的问题
复杂分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败。
服务雪崩
多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其它的微服务，这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，所谓的“雪崩效应”.
对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的延迟增加，备份队列，线程和其他系统资源紧张，导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统。
所以，通常当你发现一个模块下的某个实例失败后，这时候这个模块依然还会接收流量，然后这个有问题的模块还调用了其他的模块，这样就会发生级联故障，或者叫雪崩。
Hystrix断路器
简介
Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，Hystrix能够保证在一个依赖出问题的情况下，不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性。
"断路器”本身是一种开关装置，当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝)，向调用方返回一个符合预期的、可处理的备选响应(FallBack)，而不是长时间的等待或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。
Hystrix能做什么？
服务降级
服务器忙，请稍后再试，不让客户端等待并立刻返回一个友好的提示，fallback。
什么情况下会触发降级？
- 程序运行异常
- 超时
- 服务熔断触发服务降级
- 线程池/信号量打满也会导致服务降级
服务熔断
类比保险丝达到最大服务的访问后，直接拒绝访问，拉闸限电，然后调用服务降级的方法并返回友好提示。
就是保险丝。
流程：服务的降级->进而熔断->回复调用链路
服务限流
高并发等操作，精致一窝蜂的过来拥挤，大家排队，一秒钟N个，有序进行
搭建项目
新建cloud-provider-hystrix-payment8005
pom
<dependencies>
<dependency><!-- 引用自己定义的api通用包，可以使用Payment支付Entity -->
<groupId>com.jsu.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>${project.version}</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
yml
# 端口号
server:
port: 8005
spring:
application:
name: cloud-payment-service-hystrix
eureka:
client:
register-with-eureka: true
fetch-registry: true
service-url:
# 入住地址
defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka # 集群版
instance:
instance-id: payment8005
prefer-ip-address: true
主启动类
@SpringBootApplication
@EnableEurekaClient
@EnableCircuitBreaker
public class PaymentHystrixMain8005 {
public static void main(String[] args) {
SpringApplication.run(PaymentHystrixMain8005.class);
}
}
业务逻辑
@Service
public class PaymentServiceImpl{
public String paymentInfo_ok(Integer id) {
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + "o(*￣︶￣*)o";
}
public String paymentInfo_Timeout(Integer id) {
int number = 5;
try {
TimeUnit.SECONDS.sleep(number);
}catch (Exception e){
e.printStackTrace();
}
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + "o(*￣︶￣*)o,耗时了" + number + "秒钟";
}
public String paymentInfo_TimeoutHandler(Integer id) {
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + o(╥﹏╥)o";
}
}
@RestController
@Slf4j
public class PaymentController {
@Autowired
private PaymentService paymentService;
@Value("${server.port}")
private String serverPort;
@RequestMapping(value = "/payment/hystrix/ok/{id}",method = RequestMethod.GET)
public String paymentInfo_ok(@PathVariable("id") Integer id) {
String result = paymentService.paymentInfo_ok(id);
log.info("*****info " + result);
return result;
}
/**
* 超时的方法
* @param id
* @return
*/
@RequestMapping(value = "/payment/hystrix/timeout/{id}",method = RequestMethod.GET)
public String paymentInfo_Timeout(@PathVariable("id") Integer id){
String result = paymentService.paymentInfo_Timeout(id);
log.info("*****info " + result);
return result;
}
}
调用方法成功 8005 项目正常运行
新建项目cloud-consumer-order80feign-hystrix
pom
<dependencies>
<dependency><!-- 引用自己定义的api通用包，可以使用Payment支付Entity -->
<groupId>com.jsu.springcloud</groupId>
<artifactId>cloud-api-commons</artifactId>
<version>${project.version}</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!-- openfeign -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
<!--eureka client-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
yaml
server:
port: 80
spring:
application:
name: cloud-order-service-hystrix
eureka:
client:
register-with-eureka: true
fetch-registry: true
service-url:
# 入住地址
# defaultZone: http://localhost:7001/eureka 单机版
defaultZone: http://eureka7001.com:7001/eureka,http://eureka7002.com:7002/eureka # 集群版
业务逻辑
@Component
@FeignClient(value = "CLOUD-PAYMENT-SERVICE-HYSTRIX")
public interface PaymentHystrixService {
/**
* 肯定可以运行的普通方法
* @param id
* @return
*/
@RequestMapping(value = "/payment/hystrix/ok/{id}",method = RequestMethod.GET)
String paymentInfo_ok(@PathVariable("id") Integer id);
/**
* 超时的方法
* @param id
* @return
*/
@RequestMapping(value = "/payment/hystrix/timeout/{id}",method = RequestMethod.GET)
String paymentInfo_Timeout(@PathVariable("id")Integer id);
}
@RestController
@Slf4j
public class PaymentController {
@Autowired
private PaymentHystrixService paymentHystrixService;
@RequestMapping(value = "/consumer/payment/hystrix/ok/{id}", method = RequestMethod.GET)
String paymentInfo_ok(@PathVariable("id") Integer id) {
String result = paymentHystrixService.paymentInfo_ok(id);
log.info("*****info " + result);
return result;
}
@RequestMapping(value = "/consumer/payment/hystrix/timeout/{id}", method = RequestMethod.GET)
String paymentInfo_Timeout(@PathVariable("id") Integer id) {
String result = paymentHystrixService.paymentInfo_Timeout(id);
log.info("*****info " + result);
return result;
}
}
测试成功
openfeign远程调用成功
服务降级
修改8005
修改启动类 加上@EnableCircuitBreaker
修改业务类
8005service类
/**
* 这段注释的意思为：
*
* @param id
* @return
* @HystrixCommand(fallbackMethod = "paymentInfo_TimeoutHandler",commandProperties = {
* @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")
* })
* fallbackMethod = "paymentInfo_TimeoutHandler": 当前方法出现问题的时候,运paymentInfo_TimeoutHandler方法
* commandProperties = { @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")}
* 定义 超时3s的话属于正常 的规则
*/
@Override
@HystrixCommand(fallbackMethod = "paymentInfo_TimeoutHandler", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "3000")
})
public String paymentInfo_Timeout(Integer id) {
// int age = 10 / 0;
int number = 5;
// try {
// TimeUnit.SECONDS.sleep(number);
// }catch (Exception e){
// e.printStackTrace();
// }
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + "o(*￣︶￣*)o,耗时了" + number + "秒钟";
}
public String paymentInfo_TimeoutHandler(Integer id) {
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + "o(╥﹏╥)o";
}
运行时定义3s正常但是睡眠5s 处于不正常状态 跳转fallback方法中
当把超时异常改为算术异常的时候 依旧可以服务降级
修改80项目
修改yml
feign:
hystrix:
enabled: true
修改启动类 增加@EnableHystrix
修改业务类
刚才是openfeign被调用的项目业务逻辑层进行服务降级
现在是调用方的web层进行服务降级
80controller
/**
* 超时的方法
*
* @param id
* @return
*/
@RequestMapping(value = "/consumer/payment/hystrix/timeout/{id}", method = RequestMethod.GET)
@HystrixCommand(fallbackMethod = "paymentInfo_TimeoutHandler", commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1500")
})
String paymentInfo_Timeout(@PathVariable("id") Integer id) {
int age = 10 / 0;
String result = paymentHystrixService.paymentInfo_Timeout(id);
log.info("*****info " + result);
return result;
}
public String paymentInfo_TimeoutHandler(Integer id) {
return "线程池: " + Thread.currentThread().getName() + "paymentInfo_OK,id" + id + "\t" + "/(ㄒoㄒ)/~~";
}
发现问题！！
每一个方法都有一个fallback方法 使代码变得膨胀起来
配置全局fallback方法
80controller 截选需要修改的地方
@RestController
@Slf4j
//1 增加注解 defaultFallback= 全局fallback方法名
@DefaultProperties(defaultFallback = "payment_Global_Fallback")
public class PaymentController {
@RequestMapping(value = "/consumer/payment/hystrix/timeout/{id}", method = RequestMethod.GET)
// 添加@HystrixCommand注解的 如果代码出现超时异常等 跳转全局fallback方法
// 未添加注解的方法 如果出现超时异常就报错 不跳转fallback方法
// 如果有的方法添加注解 按照配置的paymentInfo_TimeoutHandler 去运行fallback方法
// @HystrixCommand(fallbackMethod = "paymentInfo_TimeoutHandler", commandProperties = {
// @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "1500")})
@HystrixCommand
String paymentInfo_Timeout(@PathVariable("id") Integer id) {
int age = 10 / 0;
String result = paymentHystrixService.paymentInfo_Timeout(id);
log.info("*****info " + result);
return result;
}
/**
* 全局fallback
* @return String
*/
public String payment_Global_Fallback() {
return "Global异常处理信息，请稍后再试.";
}
｝
测试成功
核心：害怕和业务逻辑放在一起 造成混乱！
当每个service都想设计一个fallback方法的时候 新写一个类实现service并加上注释
新建类
@Component
public class PaymentHystrixFallBackService implements PaymentHystrixService{
@Override
public String paymentInfo_ok(Integer id) {
return "- PaymentHystrixFallBackService paymentInfo_ok fall back - ";
}
@Override
public String paymentInfo_Timeout(Integer id) {
return "- PaymentHystrixFallBackService paymentInfo_Timeout fall back -";
}
}
修改PaymentHystrixService注解
@Component
@FeignClient(value = "CLOUD-PAYMENT-SERVICE-HYSTRIX",fallback = PaymentHystrixFallBackService.class)
public interface PaymentHystrixService {
}
关闭8005 形成宕机状态 进行访问
配置全局fallback 优先调用
服务熔断
简介
熔断机制概述
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务出错不可用或者响应时间太长时，会进行服务的降级，进而熔断该节点微服务的调用，快速返回错误的响应信息。
当检测到该节点微服务调用响应正常后，恢复调用链路。
在Spring Cloud框架里，熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况，当失败的调用到一定阈值，缺省是5秒内20次调用失败，就会启动熔断机制。熔断机制的注解是@HystrixCommand。
熔断类型
- 熔断打开：请求不在进行调用当前的服务,内部设置时钟一般为MTTR(平均故障处理时间)，当打开时长达到所设时钟则进入熔断状态
- 熔断关闭：熔断关闭不会对服务进行熔断
- 熔断半开：部分请求根据规则调用当前服务，如果请求成功且符合规则 则认为当前服务恢复正常，关闭熔断
断路器什么情况下开始起作用？
涉及断路器三个重要的参数：快照时间窗、请求总数阀值、错误百分比阀值
-
快照时间窗：
断路器确定是否打开需要统计一些请求和错误数据，而统计的时间范围就是快照时间窗，默认为最近的10s
-
请求总数阀值：
在快照时间窗内，必须满足请求总数阀值才有资格熔断。默认为20,意味着在10s内，如果改hystrix命令调用次数不足20次，即使所有的请求都超时或其他的原因失败，断路器都不会打开。
-
错误百分比阀值：
当请求总数在快照时间窗内超过了阀值，比如发生了30次调用，如果在这30次调用中，有15次发生了超时异常，也就是超过50%的错误百分比，在默认设定的50%阀值情况下，这时候就会将断路器打开
断路器开启或者关闭条件
- 当满足—定阀值的时候(默认10秒内超过20个请求次数)
- 当失败率达到一定的时候（默认10秒内超过50%请求失败)
- 到达以上阀值，断路器将会开启
- 当开启的时候，所有请求都不会进行转发
- 一段时间之后（默认是5秒)，这个时候断路器是半开状态，会让其中一个请求进行转发。如果成功，断路器会关闭，若失败，继续开启。重复4和5
断路器打开之后
- 再有请求调用的时候，将不会调用主逻辑，而是
直接调用降级fallack。通过断路器，实现了自动地发现错误并将降级逻辑切换为主逻辑，减少响应延迟的效果。 - 原来的主逻辑要如何恢复呢? 对于这一问题，hystrix也为我们实现了
自动恢复功能。
当断路器打开，对主逻辑进行熔断之后，hystrix会启动一个休眠时间窗，在这个时间窗内，降级逻辑是临时的成为主逻辑，当休眠时间窗到期，断路器将进入半开状态，释放一次请求到原来的主逻辑上，如果此次请求正常返回，那么断路器将继续闭合，主逻辑恢复，如果这次请求依然有问题，断路器继续进入打开状态，休眠时间窗重新计时。
所有配置
使用
8005 service
// ----- 服务熔断 -----
@HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback", commandProperties = {
@HystrixProperty(name = "circuitBreaker.enabled", value = "true"), // 是否开启断路器
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"), // 请求次数
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"), // 时间窗口期/时间范围
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60") // 失败率达到多少后跳闸
})
@Override
public String paymentCircuitBreak(@PathVariable("id") Integer id) {
if (id < 0) {
throw new RuntimeException("--- id不能为负数");
}
// IdUtil.simpleUUID() === UUID.Random.toString
String serialNumber = IdUtil.simpleUUID();
return Thread.currentThread().getName() + "\t" + "调用成功.流水号: " + serialNumber;
}
public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id) {
return "id 不能为负数，请稍后重试，o(╥﹏╥)o id: " + id;
}
8005 controller
@RequestMapping(value = "/payment/circuit/{id}",method = RequestMethod.GET)
public String paymentCircuitBreakers(@PathVariable("id")Integer id){
String s = paymentService.paymentCircuitBreak(id);
log.info("----result"+s);
return s;
}
测试：
狂刷新 发现熔断打开了
慢慢的恢复了
工作流程
1请求进来,首先查询缓存有没有服务熔断,如果有,直接返回给前台
如果缓存没有,--->2
2,查看断路器是否开启,如果开启的,Hystrix直接将请求转发到降级返回,然后返回fallback
如果断路器是关闭的,
判断线程池等资源是否已经满了,
如果已经满了 也会走降级方法fallback
如果资源没有满,判断我们使用的什么类型的Hystrix(HystrixCommand),
决定调用构造方法还是run方法
然后处理请求
然后Hystrix将本次请求的结果信息汇报给断路器,因为断路器此时可能是开启的
(因为断路器开启也是可以接收请求的)
断路器收到信息,判断是否符合开启或关闭断路器的条件,
如果本次请求处理失败,又会进入降级方法
如果处理成功,判断处理是否超时,如果超时了,也进入降级方法
最后,没有超时,则本次请求处理成功,将结果返回给controller
服务监控hystrixDashboard
简介
除了隔离依赖服务的调用以外，Hystrix还提供了准实时的调用监控(Hystrix Dashboard)，Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息，并以统计报表和图形的形式展示给用户，包括每秒执行多少请求多少成功，多少失败等。Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合，对监控内容转化成可视化界面。
使用
新建项目 cloud-consumer-dashboard9001-hystrix
pom
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<!--监控-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--热部署-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-devtools</artifactId>
<scope>runtime</scope>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
yml
server:
port: 9001
启动类
@SpringBootApplication
@EnableHystrixDashboard
public class HystrixDashboard9001 {
public static void main(String[] args) {
SpringApplication.run(HystrixDashboard9001.class);
}
}
所有的provide提供类(8001/8002/8003/8004)都需要加上监控配置
前面的pom都写了
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
启动访问 http://localhost:9001/hystrix/
监控测试
修改8005
// 启动类
/**
* 此配置是为了服务监控而配置，与服务容错本身无关，springcloud升级后的坑
* ServletRegistrationBean因为Springboot的默认路径不是/hystrix.stream
* 只要在自己的项目里配置上下面的servlet就可以了
* @return
*/
@Bean
public ServletRegistrationBean servletRegistrationBean() {
HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
ServletRegistrationBean<HystrixMetricsStreamServlet> registrationBean = new ServletRegistrationBean<>(streamServlet);
registrationBean.setLoadOnStartup(1);
registrationBean.addUrlMappings("/hystrix.stream");
registrationBean.setName("HystrixMetricsStreamServlet");
return registrationBean;
}
开启服务 进行访问设置
狂刷正确的地址 http://localhost:8005/payment/circuit/33
狂刷错误的地址 http://localhost:8005/payment/circuit/-33
扫一扫
2146
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
