概述
分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免地失败。
服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的”雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障。这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败不能取消整个应用程序或系统。
是什么
Hystrix是一个用于处理分布式系统的
延迟
和容错
的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时、异常等,Hystrix能够保证**在一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性**。
“断路器”本身是一种开关装置,当某个服务单元发生故障之后,通过断路器的故障监控(类似熔断保险丝),向调用方返回一个符合预期的、可处理的备选响应(FallBack) ,而不是长时间的等待或者抛出调用方无法处理的异常,这样就保证了服务调用方的线程不会被长时间不必要地占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
能干嘛
服务降级、服务熔断、服务限流、接近实时的监控
服务熔断
熔断机制是应对雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回"错误"的响应信息。当检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。 Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值,缺省是5秒内20次调用失败就会启动熔断机制。熔断机制的注解是@HystrixCommand
.
案例
仿照microservicecloud-provider-dept-8001新建microservicecloud-provider-dept-hystrix-8001
pom文件
<!-- 在dept8001的基础上再添加如下依赖 -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
yml文件
# 在dept8001的基础上修改服务器名称信息
eureka:
instance:
instance-id: microservicecloud-dept8001-hystrix # 自定义服务器名称信息
DeptController
HystrixCommand来决定报异常后如何处理
@Autowired
private DeptService service;
//一旦调用服务方法失败并抛出了错误信息后,会自动调用@HystrixCommand标注好的fallbackMethod调用类中的指定方法
@GetMapping(value="/dept/get/{id}")
@HystrixCommand(fallbackMethod = "processHystrix_Get")
public Dept hystrixGet(@PathVariable("id") Long id){
Dept dept = service.get(id);
if (null == dept){
throw new RuntimeException("该ID:" + id + "没有对应的信息");
}
return dept;
}
public Dept processHystrix_Get(@PathVariable("id") Long id){
return new Dept().setDeptno(id).setDname("该ID:" + id + "没有对应的信息,null---@HystrixCommand")
.setDbSource("no this database in MySQL");
}
主启动类
添加注解@EnableCircuitBreaker
,开启Hystrix熔断器机制的组件
服务降级
释义:整体资源快不够了,忍痛将某些服务先关掉,待渡过难关,再开启回来。
服务降级处理是在客户端实现完成的,与服务端没有关系。
案例
microservicecloud-api
修改microservicecloud-api工程,根据已经有的DeptClientService接口新建一个实现了FallbackFactory接口的类DeptClientServiceFallbackFactory
package com.demo.springCloud.service;
import com.demo.springCloud.entities.Dept;
import feign.hystrix.FallbackFactory;
import org.springframework.stereotype.Component;
import java.util.List;
@Component //千万不要忘记添加这个注解
public class DeptClientServiceFallbackFactory implements FallbackFactory<DeptClientService> {
@Override
public DeptClientService create(Throwable throwable) {
return new DeptClientService() {
@Override
public Dept get(Long id) {
return new Dept().setDeptno(id).setDname("该ID:" + id + "没有对应的信息,Consumer端提供的降级信息,此刻provider服务已关闭")
.setDbSource("no this database in MySQL");
}
@Override
public List<Dept> list() {
return null;
}
@Override
public boolean add(Dept dept) {
return false;
}
};
}
}
DeptClientService接口在注解@FeignClient
中添加fallbackFactory属性值
@FeignClient(value = "MICROSERVICECLOUD-DEPT",fallbackFactory = DeptClientServiceFallbackFactory.class)
打包microservicecloud-api,mvn celan install
dept-feign工程修改yml
feign:
hystrix:
enabled: true
测试
3个eureka先启动
微服务microservicecloud-provider-dept-8001启动
microservicecloud-consumer-dept- feign启动
正常访问测试http://localhost/consumer/dept/get/1
故意关闭微服务microservicecloud-provider-dept-8001
客户端自己调用提示
做了服务降级处理,让客户端在服务端不可用时也会获得提示信息而不会挂起耗死服务器
服务熔断和降级小总结
服务熔断
一般是某个服务故障或者异常引起,类似现实世界中的“保险丝”,当某个异常条件被触发,直接熔断整个服务,而不是一直等到此服务超时。
服务降级
所谓降级,一般是从整体负荷考虑。就是当某个服务熔断之后,服务器将不再被调用,此时客户端可以自己准备一个本地的fallback回调, 返回一个缺省值。
这样做,虽然服务水平下降,但至少可用,比直接挂掉要强。
服务监控HystrixDashboard
概述
除了隔离依赖服务的调用以外,Hystrix还提供了**
准实时的调用监控(Hystrix Dashboard)
**,Hystrix会持续地记录所有通过Hystrix发起的请求的执行信息,并以统计报表和图形的形式展示给用户,包括每秒执行多少请求多少成功,多少失败等。
Netflix通过hystrix-metrics-event-stream项目实现了对以上指标的监控。Spring Cloud也提供了Hystrix Dashboard的整合,对监控内容转化成可视化界面。
案例
新建工程microservicecloud-consumer-hystrix-dashboard
pom文件
相比于microservicecloud-consumer-dept-80,新增如下依赖
<!--Hystrix和Hystrix-dashboard相关-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>
application.yml
server:
port: 9001
主启动类DeptConsumer_DashBoard_App
注解@SpringBootApplication
和 @EnableHystrixDashboard
所有Provider微服务提供类(8001/8002/8003)都需要监控依赖配置
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
启动microservicecloud-consumer-hystrix-dashboard该微服务监控消费端
http://localhost:9001/hystrix
启动3个eureka集群
启动microservicecloud-provider-dept-hystrix-8001
http://localhost:8001/dept/get/1
监控测试
在浏览器直接输入http://localhost:8001/hystrix.stream是看的动态的日志文件
在http://localhost:9001/hystrix这个主页输入要监控的服务,点击“Monitor Stream”
Delay:该参数用来控制服务器上轮询监控信息的延迟时间,默认为2000毫秒, 可以通过配置该属性来降低客户端的网络和CPU消耗。
Title:该参数对应了头部标题Hystrix Stream之后的内容,默认会使用具体监控实例的URL,可以通过配置该信息来展示更合适的标题。
多次刷新http://localhost:8001/dept/get/1,观察监控页面的变化
实心圆:共有两种含义。它通过颜色的变化代表了实例的健康程度,它的健康度从绿色<黄色<橙色<红色递减。
该实心圆除了颜色的变化之外,它的大小也会根据实例的请求流量发生变化,流量越大该实心圆就越大。所以通过该实心圆的展示,就可以在大量的实例中快速的发现故障实例和高压力实例。曲线:用来记录2分钟内流量的相对变化,可以通过它来观察到流量的上升和下降趋势。