文章目录
分布式系统面临的问题
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免失败!
8.1、服务雪崩
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其他的微服务,这就是所谓的“扇出”,如果扇出的链路上某个微服务的调用响应时间过长,或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流量的应用来说,单一的后端依赖可能会导致所有服务器上的所有资源都在几十秒内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更多的级联故障,这些都表示需要对故障和延迟进行隔离和管理,以便单个依赖关系的失败,不能取消整个应用程序或系统。
我们需要,弃车保帅
8.2、什么是Hystrix
Hystrix是一个用于处理分布式系统的延迟和容错的开源库,在分布式系统里,许多依赖不可避免的会调用失败,比如超时,异常等,Hystrix能够保证在同一个依赖出问题的情况下,不会导致整体服务失败,避免级联故障,以提高分布式系统的弹性。
“断路器”本身是一种开关装置,当某个服务单元发生故障后,通过熔断器的故障监控(类似熔断保险丝),向调用方返回一个服务预期的,可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法无法处理的异常,这样就保证了服务调用方的线程不会被长时间,不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。
能干嘛
- 服务降级
- 服务熔断
- 服务限流
- 接近实时的监控
- …
当一切正常时,请求流可以如下所示:
当许多后端系统中有一个潜在问题时,它可以阻止整个用户请求:
随着大容量通信量的增加,单个后端依赖项的潜在性会导致所有服务器上的所有资源在几秒钟内饱和。
应用程序中通过网络或客户端库可能导致网络请求的每个点都是潜在故障的来源。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,从而备份队列、线程和其他系统资源,从而导致更多跨系统的级联故障。
当使用hystrix包装每个基础依赖项时,上面的图表中所示的体系结构会发生类似于以下关系图的变化。每个依赖项是相互隔离的,限制在延迟发生时它可以填充的资源中,并包含在回退逻辑中,该逻辑决定在依赖项中发生任何类型的故障时要做出什么样的响应:
官网资料:https://github.com/Netflix/Hystrix/wiki
8.3、服务熔断
8.3.1、什么是服务熔断
熔断机制是对应雪崩效应的一种微服务链路保护机制。
在微服务架构中,微服务之间的数据交互通过远程调用完成,微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,此时如果链路上某个微服务的调用响应时间过长或者不可用,那么对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,导致“雪崩效应”。
服务熔断是应对雪崩效应的一种微服务链路保护机制。例如在高压电路中,如果某个地方的电压过高,熔断器就会熔断,对电路进行保护。同样,在微服务架构中,熔断机制也是起着类似的作用。当调用链路的某个微服务不可用或者响应时间太长时,会进行服务熔断,不再有该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后,恢复调用链路。
当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。检测到该节点微服务调用响应正常后恢复调用链路。在SpringCloud框架里熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值,缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是:@HystrixCommand
。
服务熔断解决如下问题:
- 当所依赖的对象不稳定时,能够起到快速失败的目的;
- 快速失败后,能够根据一定的算法动态试探所依赖对象是否恢复。
8.3.2、入门案例
新建springcloud-provider-dept-hystrix-8001 maven模块,并拷贝springcloud-provider-dept–8001内的pom.xml、resource和Java代码进行初始化并调整。
- 导入hystrix依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
- 调整yml配置文件
server:
port: 8001
# mybatis 配置
mybatis:
# springcloud-api 模块下的pojo包
type-aliases-package: com.chen.springcloud.pojo
# 本模块下的mybatis-config.xml核心配置文件类路径
config-location: classpath:mybatis/mybatis-config.xml
# 本模块下的mapper配置文件类路径
mapper-locations: classpath:mybatis/mapper/*.xml
# spring 配置
spring:
application:
# 项目名
name: springcloud-provider-dept
datasource:
# 德鲁伊数据源
type: com.alibaba.druid.pool.DruidDataSource
driver-class-name: org.gjt.mm.mysql.Driver
url: jdbc:mysql://localhost:3306/db01?useSSL=true&useUnicode=true&characterEncoding=UTF-8
password: root
username: root
# Eureka的配置,服务注册到哪里
eureka:
client:
service-url:
# 注册中心地址7001-7003
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
instance-id: springcloud-provider-hystrix-8001 # 修改eureka上的默认描述信息
prefer-ip-address: true # 改为true后默认显示的是ip地址而不再是localhost
# info
info:
app.name: chen-springcloud # 项目的名称
company.name: www.baidu.com # 公司的名称
prefer-ip-address: false:(默认为false)
prefer-ip-address: true:
- 修改controller
//提供Restful服务!
@RestController
public class DeptController {
@Autowired
private DeptService service;
@HystrixCommand(fallbackMethod = "hystrixGet") // 如果根据id查询出现异常,走这段代码
@GetMapping("/dept/query/{id}")
public Dept queryById(@PathVariable("id") Long id){
Dept dept = service.queryById(id);
if(dept==null){
throw new RuntimeException("id -> "+id+",不存在该用户,或者信息无法查找到");
}
return dept;
}
// 根据id查询备选方案(熔断)
public Dept hystrixGet(@PathVariable("id") Long id){
return new Dept()
.setDeptno(id)
.setDname("id - >"+id+"没有对应的信息,null-@Hystrix")
.setDb_source("no this database in MySQL");
}
}
- 为主启动类添加对熔断的支持注解@EnableCircuitBreaker
// 启动类
@SpringBootApplication
@EnableEurekaClient // 在服务启动后自动注册到Eureka中!
@EnableDiscoveryClient // 服务发现
@EnableCircuitBreaker // 添加对熔断的支持
public class DeptProviderHystrix_8001 {
public static void main(String[] args) {
SpringApplication.run(DeptProviderHystrix_8001.class,args);
}
}
- 测试
使用熔断后,当访问一个不存在的id时,前台页展示数据如下
而不使用熔断的springcloud-provider-dept–8001模块访问相同地址会出现下面状况
因此,为了避免某个微服务后台出现异常或错误而导致整个应用或网页报错,使用熔断是有必要的
8.4、服务降级
8.4.1、什么是服务降级
服务降级是指当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有的策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心业务正常运作或高效运作。说白了,就是尽可能的把系统资源让给优先级高的服务。
资源有限,而请求是无限的。如果在并发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话可能会导致宕机某些重要的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,都要对某些服务降级处理。比如当双11活动时,把交易无关的服务统统降级,如查看蚂蚁深林,查看历史订单等等。
服务降级主要用于什么场景呢?当整个微服务架构整体的负载超出了预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些 不重要 或 不紧急 的服务或任务进行服务的 延迟使用 或 暂停使用。
降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只是放到一个缓存中,等服务平稳之后再执行 ;或者在粒度范围内关闭服务,比如关闭相关文章的推荐。
由上图可得,当某一时间内服务A的访问量暴增,而B和C的访问量较少,为了缓解A服务的压力,这时候需要B和C暂时关闭一些服务功能,去承担A的部分服务,从而为A分担压力,叫做服务降级。
服务降级需要考虑的问题
- 那些服务是核心服务,哪些服务是非核心服务
- 哪些服务可以支持降级,那些服务不能支持降级,降级策略是什么
- 除服务降级之外是否存在更复杂的业务放通场景,策略是什么?
自动降级分类
-
超时降级:主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况
-
失败次数降级:主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况
-
故障降级:比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)
-
限流降级:秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)。
8.4.2、入门案例
- 在springcloud-api模块下的service包中新建降级配置类DeptClientServiceFallBackFactory.java
@Component
public class DeptClientServiceFallBackFactory implements FallbackFactory {
@Override
public DeptClientService create(Throwable cause) {
return new DeptClientService() {
@Override
public Dept queryById(Long id) {
return new Dept()
.setDeptno(id)
.setDname("id -> "+id+"没有对应的信息,客户端提供了降级降级的信息,这个服务现在已经被关闭")
.setDb_source("没有数据~");
}
@Override
public List<Dept> queryALL() {
return null;
}
@Override
public Boolean addDept(Dept dept) {
return null;
}
};
}
}
- 在DeptClientService中指定降级配置类DeptClientServiceFallBackFactory
@Service
//@FeignClient:微服务客户端注解,value:指定微服务的名字,这样就可以使Feign客户端直接找到对应的微服务
@FeignClient(value = "SPRINGCLOUD-PROVIDER-DEPT",fallbackFactory = DeptClientServiceFallBackFactory.class)
public interface DeptClientService {
@GetMapping("/dept/query/{id}")
public Dept queryById(@PathVariable("id")Long id);
@GetMapping("/dept/list")
public List<Dept> queryALL();
@PostMapping("/dept/add")
public Boolean addDept(Dept dept);
}
- 在springcloud-consumer-dept-feign模块中开启降级
server:
port: 80
spring:
application:
name: SPRINGCLOUD-CONSUMER
eureka:
client:
service-url:
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
register-with-eureka: false # 不向Eureka注册自己
instance:
instance-id: springcloud-consumer-80
# 开启降级feign.hystrix
feign:
hystrix:
enabled: true
- 测试
先正常访问:http://localhost/consumer/dept/query/1
关闭服务提供者后,再次访问:
8.4.2、服务熔断和降级的区别
- 服务熔断—>服务端: 某个服务超时或异常,引起熔断~,类似于保险丝(自我熔断)
- 服务降级—>客户端: 从整体网站亲求考虑,当某个服务熔断或者关闭后,服务将不再可用,此时在客户端,我们可以准备一个FallBackFactory,返回一个默认的值(”缺省值“)。会导致服务的整体下降,但是好歹能用,比直接挂掉强。
- 触发原因不太一样,服务熔断一般是某个服务(下游服务)故障引起,而服务降级一般是从整体负荷考虑;管理目标的层次不太一样,熔断其实是一个框架级的处理,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围服务开始)
- 实现方式不太一样,服务降级具有代码侵入性(由控制器完成/或自动降级),熔断一般称为自我熔断。
限流:限制并发的请求访问量,超过阈值则拒绝;
降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑;
熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复
8.5、Dashboard流监控
8.5.1、入门案例
新建springcloud-consumer-hystrix-dashboard模块
- 添加依赖
<!--Hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
<!--监控依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
- 主启动类
@SpringBootApplication
@EnableHystrixDashboard // 开启监控页面
public class DeptConsumerDashboard_9001 {
public static void main(String[] args) {
SpringApplication.run(DeptConsumerDashboard_9001.class,args);
}
}
访问http://localhost:9001/hystrix
- 给springcloud-provider-dept-hystrix-8001模块下的主启动类添加如下代码,添加监控(
注意:这个必须得是带熔断的
)
首先得确保确保他有这两个依赖,否则监控不到
<!--actuator 完善监控信息-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!--hystrix-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-hystrix</artifactId>
<version>1.4.6.RELEASE</version>
</dependency>
修改主启动类
// 启动类
@SpringBootApplication
@EnableEurekaClient // 在服务启动后自动注册到Eureka中!
@EnableDiscoveryClient // 服务发现
@EnableCircuitBreaker // 添加对熔断的支持
public class DeptProviderHystrix_8001 {
public static void main(String[] args) {
SpringApplication.run(DeptProviderHystrix_8001.class,args);
}
// 增加一个servlet
@Bean
public ServletRegistrationBean hystrixMetricsStreamServlet(){
ServletRegistrationBean registrationBean = new ServletRegistrationBean(new HystrixMetricsStreamServlet());
registrationBean.addUrlMappings("/actuator/hystrix.stream");
return registrationBean;
}
}
8.5.2、测试
-
测试访问http://localhost:9001/hystrix
结果我们发现:
-
上面两个一直是loading,我们访问以下springcloud-provider-dept-hystrix-8001带熔断的请求,也就是 http://localhost:8001/dept/query/1
-
访问http://localhost:8001/actuator/hystrix.stream
-
再次访问http://localhost:9001/hystrix,重复第一个操作,得到结果:
注意:想在dashboard里监控某个服务 这个服务本身得先 主启动类上有@EnableCircuitBreaker 开启熔断开关 然后注入一个视频里的ServletBean 同时这个服务的控制器里面的接口 必须有@HystrixCommand的注解,用来标识要把哪些接口方法展示在dashboard上
8.5.3、如何看
-
7色
-
一圈
实心圆:公有两种含义,他通过颜色的变化代表了实例的健康程度
它的健康程度从绿色<黄色<橙色<红色递减
该实心圆除了颜色的变化之外,它的大小也会根据实例的请求流量发生变化,流量越大,该实心圆就越大,所以通过该实心圆的展示,就可以在大量的实例中快速发现故障实例和高压力实例。
-
一线
曲线:用来记录2分钟内流量的相对变化,可以通过它来观察到流量的上升和下降趋势! .
- 整体说明