09-Sentinel限流熔断应用实践(1)

原创 于 2024-08-16 17:26:37 发布 · 1.8k 阅读 · 38 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#sentinel

在这里插入图片描述

第三步：反复刷新访问消费端端服务，检测是否有限流信息输出，如图所示：

在这里插入图片描述

Sentinel流控规则分析

========================================================================

阈值类型分析

  • QPS(Queries Per Second)：当调用这个api的时，QPS达到单机阈值时，就会限流。

  • 线程数：当调用这个api的时，线程数达到单机阈值时，就会限流。

设置限流模式

Sentinel的流控模式代表的流控的方式，默认【直接】，还有关联，链路。

直接模式：

Sentinel默认的流控处理就是【直接->快速失败】。

![在这里插入图片描述]( )

在这里插入图片描述

链路模式

链路模式只记录指定链路入口的流量。也就是当多个服务对指定资源调用时，假如流量超出了指定阈值，则进行限流。被调用的方法用@SentinelResource进行注解，然后分别用不同业务方法对此业务进行调用，假如A业务设置了链路模式的限流,在B业务中是不受影响的。例如现在设计一个业务对象，代码如下(为了简单,可以直接写在启动类内部)：

@Service

public class ConsumerService{

@SentinelResource(“doGetResource”)

public String doGetResource(){

return “doGetResource”;

}

}

接下来我们在/consumer/doRestEcho1对应的方法中对ConsumerService中的doGetResource方法进行调用(应用consumerService对象之前,要先在doRestEcho01方法所在的类中进行consumerService值的注入)。例如:

@GetMapping(“/consumer/doRestEcho1”)

public String doRestEcho01() throws InterruptedException {

consumerService.doGetResource();

//Thread.sleep(200);

String url=“http://localhost:8081/provider/echo/”+server;

//远程过程调用-RPC

return restTemplate.getForObject(url,String.class);//String.class调用服务响应数据类型

}

其路由规则配置如下：

在这里插入图片描述

在这里插入图片描述

说明，流控模式为链路模式时，假如是sentinel 1.7.2以后版本，Sentinel Web过滤器默认收敛所有URL的入口上下文(sentinel_spring_web_context)，因此互连限流不生效，需要在application.yml添加如下语句来关闭URL PATH聚合(了解,可以自己尝试)：

sentinel:

web-context-unify: false

修改配置以后，重新sentinel，并设置链路流控规则，然后再频繁对链路/consumer/doRestEcho1进行访问，检测是否会出现500异常。

在这里插入图片描述

设计限流效果(了解)

此模块做为课后了解内容,感兴趣自学即可.

快速失败

流量达到指定阀值，直接返回报异常。（类似路前方坍塌，后面设定路标，让后面的车辆返回）

WarmUp (预热)

WarmUp也叫预热，根据codeFactor（默认3）的值，（阀值/codeFactor）为初始阈值，经过预热时长，才到达设置的QPS的阈值，假如单机阈值为100，系统初始化的阈为 100/3 ，即阈值为33，然后过了10秒，阈值才恢复到100。这个预热的应用场景，如：秒杀系统在开启的瞬间，会有很多流量上来，很有可能把系统打死，预热方式就是把为了保护系统，可慢慢的把流量放进来，慢慢的把阈值增长到设置的阈值。例如：

在这里插入图片描述

排队等待

从字面上面就能够猜到，匀速排队，让请求以均匀的速度通过，阈值类型必须设成QPS，否则无效。比如有时候系统在某一个时刻会出现大流量，之后流量就恢复稳定，可以采用这种排队模式，大流量来时可以让流量请求先排队，等恢复了在慢慢进行处理，例如：

在这里插入图片描述

小节面试分析

  • Sentinel是什么？(阿里推出一个流量控制平台，防卫兵)

  • 类似Sentinel的产品你知道有什么？(hystrix-一代微服务产品)

  • 你了解哪些限流算法？(计数器、令牌桶、漏斗算法，滑动窗口算法，…)

  • Sentinel 默认的限流算法是什么？(滑动窗口算法)

  • 你了解sentinel中的阈值应用类型吗?（两种-QPS,线程数）

  • Sentinel 限流规则中默认有哪些限流模式?(直连，关联，链路)

  • Sentinel的限流效果有哪些？(快速失败，预热，排队)

  • Sentinel 为什么可以对我们的业务进行限流，原理是什么？

我们在访问web应用时，在web应用内部会有一个拦截器，这个拦截器会对请求的url进行拦截，拦截到请求以后，读取sentinel 控制台推送到web应用的流控规则，基于流控规则对流量进行限流操作。

Sentinel降级入门

======================================================================

概述

除了流量控制以外，对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。由于调用关系的复杂性，如果调用链路中的某个资源不稳定，最终会导致请求发生堆积。

Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时（例如调用超时或异常比例升高），对这个资源的调用进行限制，让请求快速失败，避免影响到其它的资源而导致级联错误。当资源被降级后，在接下来的降级时间窗口之内，对该资源的调用都自动熔断（默认行为是抛出 DegradeException）。

准备工作

修改ConumserController 类中的doRestEcho01方法,假如没有创建即可,基于此方法演示慢调用过程下的限流,代码如下:

//AtomicLong 类支持线程安全的自增自减操作

private AtomicLong atomicLong=new AtomicLong(1);

@GetMapping(“/consumer/doRestEcho1”)

public String doRestEcho01() throws InterruptedException {

//consumerService.doGetResource();

//获取自增对象的值,然后再加1

long num=atomicLong.getAndIncrement();

if(num%2==0){//模拟50%的慢调用比例

Thread.sleep(200);

}

String url=“http://localhost:8081/provider/echo/”+server;

//远程过程调用-RPC

return restTemplate.getForObject(url,String.class);//String.class调用服务响应数据类型

}

Sentinel降级入门

第一步：服务启动后，选择要降级的链路，如图所示：

在这里插入图片描述

第二步：选择要降级的链路，如图所示：

在这里插入图片描述

这里表示熔断策略为慢调用比例，表示链路请求数超过3时，假如平均响应时间假如超过200毫秒的有50%，则对请求进行熔断，熔断时长为10秒钟，10秒以后恢复正常。

第三步：对指定链路进行刷新，多次访问测试，假如出现了降级熔断，会出现如下结果：

在这里插入图片描述

我们也可以进行断点调试，在DefaultBlockExceptionHandler中的handle方法内部加断点，分析异常类型，假如异常类型为DegradeException则为降级熔断。

Sentinel 异常处理

系统提供了默认的异常处理机制，假如默认处理机制不满足我们需求，我们可以自己进行定义。定义方式上可以直接或间接实现BlockExceptionHandler接口，并将对象交给spring管理。

在这里插入图片描述

@Component

public class ServiceBlockExceptionHandler implements BlockExceptionHandler {

@Override

public void handle(HttpServletRequest request, HttpServletResponse response,BlockException e) throws Exception {

//response.setStatus(601);

//设置响应数据的编码

response.setCharacterEncoding(“utf-8”);

//告诉客户端要响应的数据类型以及客户端以什么编码呈现数据

response.setContentType(“text/html;charset=utf-8”);

PrintWriter pw=response.getWriter();

Map<String,Object> map=new HashMap<>();

if(e instanceof DegradeException){//降级、熔断

map.put(“status”,601);

map.put(“message”, “服务被熔断了!”);

}else if(e instanceof FlowException){

map.put(“status”,602);

map.put(“message”, “服务被限流了!”);

}else{

map.put(“status”,603);

map.put(“message”, “Blocked by Sentinel (flow limiting)”);

}

//将map对象转换为json格式字符串

String jsonStr=new ObjectMapper().writeValueAsString(map);

pw.println(jsonStr);

pw.flush();

}

}

小节面试分析

  • 何为降级熔断？（让外部应用停止对服务的访问，生活中跳闸，路障设置-此路不通）

  • 为什么要进行熔断呢？(平均响应速度越来越慢或经常出现异常，这样可能会导致调用链堆积，最终系统崩溃)

  • Sentinel中限流，降级的异常父类是谁？(BlockException)

  • Sentinel 出现降级熔断时，系统底层抛出的异常是谁？(DegradeException)

  • Sentinel中异常处理接口是谁？（BlockExceptionHandler）

  • Sentinel中异常处理接口下默认的实现类为? (DefaultBlockExceptionHandler)

  • 假如Sentinel中默认的异常处理规则不满足我们的需求怎么办?(自己定义)

  • 我们如何自己定义Sentinel中异常处理呢？（直接或间接实现BlockExceptionHandler ）

Sentinel降级策略分析(重点)

============================================================================

Sentinel熔断降级支持慢调用比例、异常比例、异常数三种策略。

慢调用比例

慢调用指耗时大于阈值RT（Response Time）的请求称为慢调用，阈值RT由用户设置。其属性具体含义说明如下：

在这里插入图片描述

慢调用逻辑中的状态分析如下：

  • 熔断（OPEN）：请求数大于最小请求数并且慢调用的比率大于比例阈值则发生熔断，熔断时长为用户自定义设置。

  • 探测（HALFOPEN）：当熔断过了定义的熔断时长，状态由熔断（OPEN）变为探测（HALFOPEN）。

  • 关闭（CLOSED）：如果接下来的一个请求小于最大RT，说明慢调用已经恢复，结束熔断，状态由探测（HALF_OPEN）变更为关闭（CLOSED），如果接下来的一个请求大于最大RT，说明慢调用未恢复，继续熔断，熔断时长保持一致

注意：Sentinel默认统计的RT上限是4900ms，超出此阈值的都会算作4900ms，若需要变更此上限可以通过启动配置项-Dcsp.sentinel.statistic.max.rt=xxx来配置

异常比例

当资源的每秒请求数大于等于最小请求数，并且异常总数占通过量的比例超过比例阈值时，资源进入降级状态。其属性说明如下：

在这里插入图片描述

异常比例中的状态分析如下：

  • 熔断（OPEN）：当请求数大于最小请求并且异常比例大于设置的阈值时触发熔断，熔断时长由用户设置。

  • 探测（HALFOPEN）：当超过熔断时长时，由熔断（OPEN）转为探测（HALFOPEN）

  • 关闭（CLOSED）：如果接下来的一个请求未发生错误，说明应用恢复，结束熔断，状态由探测（HALF_OPEN）变更为关闭（CLOSED）。如果接下来的一个请求继续发生错误，说明应用未恢复，继续熔断，熔断时长保持一致。

异常数量

当资源近1分钟的异常数目超过阈值（异常数）之后会进行服务降级。注意，由于统计时间窗口是分钟级别的，若熔断时长小于60s，则结束熔断状态后仍可能再次进入熔断状态。其属性说明如下：

在这里插入图片描述

基于异常数的状态分析如下：

  • 熔断（OPEN）：当请求数大于最小请求并且异常数量大于设置的阈值时触发熔断，熔断时长由用户设置。

  • 探测（HALFOPEN）：当超过熔断时长时，由熔断（OPEN）转为探测（HALFOPEN）

  • 关闭（CLOSED）：如果接下来的一个请求未发生错误，说明应用恢复，结束熔断，状态由探测（HALF_OPEN）变更为关闭（CLOSED）如果接下来的一个请求继续发生错误，说明应用未恢复，继续熔断，熔断时长保持一致。

小节面试分析

  • Sentinel 降级熔断策略有哪些？（慢调用，异常比例，异常数）

  • Sentinel 熔断处理逻辑中的有哪些状态？(Open，HalfOpen,Closed)

  • Sentinel 对服务调用进行熔断以后处于什么状态？(熔断打开状态-Open)

  • Sentinel 设置的熔断时长到期以后，Sentinel的熔断会处于什么状态？(探测-HalfOpen,假如再次访问时依旧响应时间比较长或依旧有异常，则继续熔断)

  • Sentinel 中的熔断逻辑恢复正常调用以后，会出现什么状态?(熔断关闭-closed)

Sentinel热点规则分析（重点）

============================================================================

概述

何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top N 数据，并对其访问进行限制。比如：

  • 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制。

  • 用户 ID 为参数，针对一段时间内频繁访问的用户 ID 进行限制。

热点参数限流会统计传入参数中的热点数据，并根据配置的限流阈值与模式，对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制，仅对包含热点参数的资源调用生效。其中，Sentinel会利用 LRU 策略统计最近最常访问的热点参数，结合令牌桶算法来进行参数级别的流控。

4.8.2 快速入门

第一步：定义热点业务代码，如图所示：

//http://ip:port/consumer/doFindById?id=10

@GetMapping(“/consumer/findById”)

@SentinelResource(“res”)

public String doFindById(@RequestParam(“id”) Integer id){

return "resource id is "+id;

}

第二步：服务启动后，选择要限流的热点链路，如图所示：

![在这里插入图片描述]( )

热点规则的限流模式只有QPS模式（这才叫热点）。参数索引为@SentinelResource注解的方法参数下标，0代表第一个参数，1代表第二个参数。单机阈值以及统计窗口时长表示在此窗口时间超过阈值就限流。

第四步：多次访问热点参数方法，前端会出现如下界面，如图所示：

在这里插入图片描述

然后，在后台出现如下异常表示限流成功。

com.alibaba.csp.sentinel.slots.block.flow.param.ParamFlowException: 2

其中，热点参数其实说白了就是特殊的流控，流控设置是针对整个请求的；但是热点参数他可以设置到具体哪个参数，甚至参数针对的值，这样更灵活的进行流控管理。

一般应用在某些特殊资源的特殊处理，如：某些商品流量大，其他商品流量很正常，就可以利用热点参数限流的方案。

特定参数设计

配置参数例外项，如图所示：

在这里插入图片描述

这里表示参数值为5时阈值为100，其它参数值阈值为1，例如当我们访问http://ip:port/consumer/doRestEcho1?id=5时的限流阈值为100。

小节面试分析

  • 如何理解热点数据？(访问频度比较高的数据，某些商品、谋篇文章、某个视频)

  • 热点数据的限流规则是怎样的?(主要是针对参数进行限流设计)

  • 热点数据中的特殊参数如何理解？(热点限流中的某个参数值的阈值设计)

  • 对于热点数据的访问出现限流以后底层异常是什么？(ParamFlowException)

Sentinel系统规则（了解）

==========================================================================

概述

系统在生产环境运行过程中，我们经常需要监控服务器的状态，看服务器CPU、内存、IO等的使用率；主要目的就是保证服务器正常的运行，不能被某些应用搞崩溃了；而且在保证稳定的前提下，保持系统的最大吞吐量。

长期以来，系统自适应保护的思路是根据硬指标，即系统的负载 (load1) 来做系统过载保护。当系统负载高于某个阈值，就禁止或者减少流量的进入；当 load 开始好转，则恢复流量的进入。

快速入门

Sentinel的系统保护规则是从应用级别的入口流量进行控制，从单台机器的总体 Load、RT、入口 QPS 、线程数和CPU使用率五个维度监控应用数据，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。如图所示：

在这里插入图片描述

其中，

  • Load（仅对 Linux/Unix-like 机器生效）：当系统 load1 超过阈值，且系统当前的并发线程数超过系统容量时才会触发系统保护。系统容量由系统的 maxQps * minRt 计算得出。设定参考值一般是 CPU cores * 2.5。

  • CPU使用率：当系统 CPU 使用率超过阈值即触发系统保护（取值范围 0.0-1.0）。

  • RT：当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护，单位是毫秒。

  • 线程数：当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。

  • 入口 QPS：当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

系统保护规则是应用整体维度的，而不是资源维度的，并且仅对入口流量生效。入口流量指的是进入应用的流量（EntryType.IN），比如 Web 服务。

小节面试分析

  • 如何理解sentinel中的系统规则？(是对所有链路的控制规则,是一种系统保护策略)

  • Sentinel的常用系统规则有哪些？(RT,QPS,CPU,线程,Load-linux,unix)

  • Sentinel系统保护规则被触发以后底层会抛出什么异常？（SystemBlockException）

Sentinel授权规则(重要)

==========================================================================

概述

很多时候，我们需要根据调用方来限制资源是否通过，这时候可以使用 Sentinel 的黑白名单控制的功能。黑白名单根据资源的请求来源（origin）限制资源是否通过，若配置白名单则只有请求来源位于白名单内时才可通过；若配置黑名单则请求来源位于黑名单时不通过，其余的请求通过。例如微信中的黑名单。

快速入门

sentinel可以基于黑白名单方式进行授权规则设计，如图所示：

在这里插入图片描述

黑白名单规则（AuthorityRule）非常简单，主要有以下配置项：

  • 资源名:即限流规则的作用对象

  • 流控应用:对应的黑名单/白名单中设置的规则值,多个值用逗号隔开.

  • 授权类型:白名单，黑名单(不允许访问).

案例实现:

定义请求解析器,用于对请求进行解析,并返回解析结果,sentinel底层 在拦截到用户请求以后,会对请求数据基于此对象进行解析,判定是否符合黑白名单规则

第一步:定义RequestOriginParser接口的实现类，基于业务在接口方法中解析请求数据并返回.
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要系统化学习资料的朋友，可以戳这里获取

greatr42d
关注
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值