最新版！快速掌握 JDK17 + springboot3 + springcloud Alibaba : 5、服务熔断降级 Sentinel

VIP文章云上凯歌

已于 2023-10-13 22:39:04 修改

阅读量621

点赞数

于 2023-10-11 17:30:53 首次发布

本文链接：https://blog.csdn.net/qq_16089135/article/details/133757974

版权

微服务架构应用设计目的为了应对高并发环境，那问题来，高并发环境会带来啥问题，微服务架构设计时需要考虑啥预防性操作？

1 高并发带来的问题

在微服务架构中，我们将业务拆分成一个个的服务，服务与服务之间可以相互调用，但是由于网络原因或者自身的原因，服务并不能保证服务的100%可用，如果单个服务出现问题，调用这个服务就会出现网络延迟，此时若有大量的网络涌入，会形成任务堆积，最终导致服务瘫痪。

接下来，我们来模拟一个高并发的场景

1.1 在订单服务中新建SentinelController.java

package com.example.server.controller;

import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import java.util.concurrent.TimeUnit;

@RestController
public class SentinelController {
   
    @RequestMapping("/sentinel1")
    public String sentinel1(){
   
        //模拟一次网络延时
        try {
   
            TimeUnit.SECONDS.sleep(1);
        } catch (InterruptedException e) {
   
            e.printStackTrace();
        }
        return "sentinel1";
    }
    @RequestMapping("/sentinel2")
    public String sentinel2(){
   
        return "测试高并发下的问题";
    }
}

1.2 修改配置文件中tomcat的并发数

server:
  port: 8091
  tomcat:
    threads:
      max: 10 #tomcat的最大并发值修改为10

spring:
  application:
    name: order-service
  datasource:
    driver-class-name: com.mysql.cj.jdbc.Driver
    url: jdbc:mysql://localhost:3306/shop-order?serverTimezone=UTC&useUnicode=true&characterEncoding=utf-8&useSSL=true
    username: root
    password: aaaaaa


  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848

1.3 接下来使用压测工具,对请求进行压力测试

下载地址https://jmeter.apache.org/

1.3.1 修改配置，并启动软件

进入bin目录,修改jmeter.properties文件中的语言支持为language=zh_CN，然后点击jmeter.bat启动软件。
在这里插入图片描述

1.3.2 添加线程组

在这里插入图片描述

1.3.3 配置线程并发数

在这里插入图片描述

1.3.4 添加Http请求

在这里插入图片描述

1.3.5 配置取样，并启动测试

在这里插入图片描述

1.3.6 访问 http://localhost:8091/sentinel2 观察结果

1.3.7 结论

此时会发现, 由于sentinel1方法囤积了大量请求, 导致sentinel2方法的访问出现了问题（特别慢），这就是服务雪崩的雏形。

2 服务器雪崩效应

前面同一个服务器不同接口间，当一个接口高频访问耗费完资源会影响到其他接口正常使用，如果将这个场景扩展到不同微服务间会怎么样呢？

答案：服务器雪崩。

在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题，调用这个服务就会出现线程阻塞的情况，此时若有大量的请求涌入，就会出现多条线程阻塞等待，进而导致服务瘫痪。

由于服务与服务之间的依赖性，故障会传播，会对整个微服务系统造成灾难性的严重后果，这就是服务故障的 “雪崩效应” 。

2.1 情景1:微服务之间相互调用,关系复杂,正常情况如下图所示

在这里插入图片描述

2.2 情景2：某个时刻，服务A挂了，服务B和服务C依然在调用服务A

在这里插入图片描述

2.3 情景3:由于服务A挂了,导致服务C和服务B无法得到服务A的响应,这时候服务C和服务B由于大量线程积压,最终导致服务C和服务B挂掉.

在这里插入图片描述

2.4 情景4: 相同道理,由于服务之间有关联，所以会导致整个调用链上的所有服务都挂掉.

在这里插入图片描述

服务器的雪崩效应其实就是由于某个微小的服务挂了,导致整一大片的服务都不可用.类似生活中的雪崩效应,由于落下的最后一片雪花引发了雪崩的情况.

雪崩发生的原因多种多样，有不合理的容量设计，或者是高并发下某一个方法响应变慢，亦或是某台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生，只有做好足够的容错，保证在一个服务发生问题，不会影响到其它服务的正常运行。

3 常见容错方案

要防止雪崩的扩散，我们就要做好服务的容错，容错说白了就是保护自己不被猪队友拖垮的一些措施, 下面介绍常见的服务容错思路和组件。

常见的容错思路有隔离、超时、限流、熔断、降级这几种，下面分别介绍一下。

3.1 隔离机制:

比如服务A内限制有100个线程, 现在服务A可能会调用服务B,服务C,服务D。

我们在服务A进行远程调用的时候,给不同的服务分配固定的线程,不会把所有线程都分配给某个微服务.。

比如调用服务B分配30个线程,调用服务C分配30个线程，调用服务D分配40个线程。这样进行资源的隔离，保证即使下游某个服务挂了，也不至于把服务A的线程消耗完。

比如服务B挂了，这时候最多只会占用服务A的30个线程,服务A还有70个线程可以调用服务C和服务D。

在这里插入图片描述

3.2 超时机制:

在上游服务调用下游服务的时候，设置一个最大响应时间，如果超过这个时间，下游未作出反应，就断开请求，释放掉线程。
在这里插入图片描述

3.3 限流机制:

限流就是限制系统的输入和输出流量已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。
在这里插入图片描述

3.4 熔断机制:

在互联网系统中，当下游服务因访问压力过大而响应变慢或失败，上游服务为了保护系统整体的可用性，可以暂时切断对下游服务的调用。这种牺牲局部，保全整体的措施就叫做熔断。

在这里插入图片描述

服务熔断一般有三种状态：

熔断关闭状态（Closed）

服务没有故障时，熔断器所处的状态，对调用方的调用不做任何限制

熔断开启状态（Open）

后续对该服务接口的调用不再经过网络，直接执行本地的fallback方法

半熔断状态（Half-Open）

尝试恢复服务调用，允许有限的流量调用该服务，并监控调用成功率。如果成功率达到预期，则说明服务已恢复，进入熔断关闭状态；如果成功率仍旧很低，则重新进入熔断开启状态。

3.5 降级机制:

降级其实就是为服务提供一个兜底方案，一旦服务无法正常调用，就使用兜底方案。

在这里插入图片描述

4 常见的容错组件

4.1 Hystrix

Hystrix是由Netflflix开源的一个延迟和容错库，用于隔离访问远程系统、服务或者第三方库，防止级联失败，从而提升系统的可用性与容错性。

4.2 Resilience4J

Resilicence4J一款非常轻量、简单，并且文档非常清晰、丰富的熔断工具，这也是Hystrix官方推荐的替代产品。不仅如此，Resilicence4j还原生支持Spring Boot 1.x/2.x，而且监控也支持和prometheus等多款主流产品进行整合。

4.2 Sentinel

Sentinel 是阿里巴巴开源的一款断路器实现，本身在阿里内部已经被大规模采用，非常稳定。

5 Sentinel入门

5.1 什么是Sentinel

官网：https://sentinelguard.io/zh-cn/index.html

Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性

Sentinel 具有以下特征:

丰富的应用场景：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景, 例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
完备的实时监控：Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据, 甚至 500 台以下规模的集群的汇总运行情况。
广泛的开源生态：Sentinel 提供开箱即用的与其它开源框架/库的整合模块, 例如与 SpringCloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。

Sentinel分为两个部分:

核心库（Java 客户端）不依赖任何框架/库,能够运行于所有 Java 运行时环境，同时对 Dubbo /Spring Cloud 等框架也有较好的支持。
控制台（Dashboard）基于 Spring Boot 开发，打包后可以直接运行，不需要额外的 Tomcat 等应用容器。

5.2 订单微服务集成Sentinel

微服务集成Sentinel非常简单, 只需要加入Sentinel的依赖即可

在shop-order-server项目的pom文件中添加如下依赖

<!--sentinel组件-->
<dependency>
	<groupId>com.alibaba.cloud</groupId>
	<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

5.3 安装Sentinel控制台

Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。

5.3.1 下载jar包 https://github.com/alibaba/Sentinel/releases

5.3.2 启动控制台

# 直接使用jar命令启动项目(控制台本身是一个SpringBoot项目) 
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.6.jar

-Dserver.port=8080 #用于指定 Sentinel 控制台端口为 8080，如若8080端口冲突，可使用 -Dserver.port=新端口 进行设置。。-Dcsp.sentinel.dashboard.server=localhost:8080 #指定控制台地址和端口，会自动向该地址发送心跳包。地址格式为：hostIp:port #配置成ocalhost:8080即监控自己-Dproject.name=sentinel-dashboard #指定Sentinel控制台程序显示的名称

这里注意：

// 指定jdk版本
set Path=jdk8以上版本\bin

5.3.3 修改shop-order-server项目中的配置文件application.yml,新增如下配置:

spring:
  cloud:
    sentinel: 
      transport: 
        port: 8719 #跟控制台交流的端口,随意指定一个未使用的端口即可,默认为8719
        dashboard: localhost:8080 # 指定控制台服务的地址

5.3.4 通过浏览器访问localhost:8080 进入控制台 ( 默认用户名密码是 sentinel/sentinel )

注意: 默认是没显示order-service的，需要访问几次接口，然后再刷新sentinel管控台才可以看到.

在这里插入图片描述

5.4 实现一个接口的限流

5.4.1 第一步: 簇点链路—>流控

在这里插入图片描述

5.4.2 第二步: 在单机阈值填写一个数值，表示每秒上限的请求数

在这里插入图片描述

5.4.3 第三步:快速频繁访问, 观察效果

最低0.47元/天解锁文章

云上凯歌

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
打赏
0
评论
最新版！快速掌握 JDK17 + springboot3 + springcloud Alibaba : 5、服务熔断降级 Sentinel

官网：https://sentinelguard.io/zh-cn/index.htmlSentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性丰富的应用场景：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景, 例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。完备的实时监控。
复制链接

扫一扫