1. 服务雪崩
某一个节点出现异常情况,就有可能在高并发的情况下出现雪崩,导致调用它的上游系统出现响应延迟,响应延迟就会导致tomcat连接本耗尽,导致该服务节点不能正常的接收到正常的情况。
某个接口出现高并发异常,导致整个微服务tomcat连接池占满,不能提供服务
2. 服务隔离
如果整个系统雪崩是由于一个接口导致的,由于这一个接口响应不及时导致问题,那么我们就有必要对这个接口进行隔离,就是只允许这个接口最多能接受多少的并发,做了这样的限制后,该接口的主机就会空余线程出来接收其他的情况,不会被哪个坏了的接口占用满。
- Hystrix jar包导入
- 启动类开启hystrix
- 使用
3. Hystrix服务隔离策略
1. 线程池隔离
THREAD 线程池隔离策略 独立线程接收请求 默认的
默认采用的就是线程池隔离
默认线程池中有10个线程,可以配置线程池中线程大小
用户线程和业务类中的线程是不一样的,启动新的线程接受请求,响应速度快,启用新的线程耗费内存资源
2. 信号量隔离
信号量隔离是采用一个全局变量来控制并发量,一个请求过来全局变量加1,单加到跟配置中的大小相等是就不再接受用户请求了。
execution.isolation.semaphore.maxConcurrentRequests
这参数是用来控制信号量隔离级别的并发大小的。
信号量隔离没有单独开启线程,只是用一个全局变量记录,节省资源,但是有锁的机制
4. Hystrix服务降级
服务降级是对服务调用过程的出现的异常的友好封装
定义降级方法,降级方法的返回值和业务方法的方法值要一样
5. Hystrix数据监控
超时数、bad请求数、降级数、异常数等等都会有统计,那么统计的数据就需要有一个界面来展示,hystrix-dashboard就是这么一个展示hystrix统计结果的服务。
Dashboard工程搭建(一个工程)
- jar引入
- 启动类
Dashboadr界面
http://localhost:9990/hystrix
然后在界面中输入需要监控的端点url:
http://localhost:8083/actuator/hystrix.stream
6. Hystrix熔断
熔断就像家里的保险丝一样,家里的保险丝一旦断了,家里就没点了。
熔断发生的三个必要条件 :
- 有一个统计的时间周期,滚动窗口
metrics.rollingStats.timeInMilliseconds
默认10000毫秒 - 请求次数必须达到一定数量
circuitBreaker.requestVolumeThreshold
默认20次 - 失败率达到默认失败率
circuitBreaker.errorThresholdPercentage
默认50%
上述3个条件缺一不可,必须全部满足才能开启hystrix的熔断功能。
熔断器的三个状态:
- 关闭状态
关闭状态时用户请求是可以到达服务提供方的 - 开启状态
开启状态时用户请求是不能到达服务提供方的,直接会走降级方法 - 半开状态
当hystrix熔断器开启时,过一段时间(默认5s)后,熔断器就会由开启状态变成半开状态。
半开状态的熔断器是可以接受用户请求并把请求传递给服务提供方的,这时候如果远程调用返回成功,那么熔断器就会有半开状态变成关闭状态,反之,如果调用失败,熔断器就会有半开状态变成开启状态。
Hystrix功能建议在并发比较高的方法上使用
7. Feign的使用
Feign是对服务端和客户端通用接口的封装,让代码可以复用做到统一管理。
- jar引入
- 启动类导入feign客户端
- feign客户端
- 服务端接口
服务端接口必须定义跟feign客户端相同的url。 - 参数传递
调用方
服务方
实际上传的是字符串 - Feign的服务降级
这里在调用对应feign客户端方法出现异常了,就会回调到create方法中,最终会回调到对应的客户端方法中。 - Feign的异常过滤器
这个过滤器是对异常信息的再封装,把feign的异常信息封装成我们系统的通用异常对象
过滤器把异常返回后,feign前面定义的降级方法就会调到create方法。
不建议使用