在我们日常生活中,经常会在淘宝、天猫、京东、拼多多等平台上参与商品的秒杀、抢购以及一些优惠活动,也会在节假日使用12306 手机APP抢火车票、高铁票,甚至有时候还要帮助同事、朋友为他们家小孩拉投票、刷票,这些场景都无一例外的会引起服务器流量的暴涨,导致网页无法显示、APP反应慢、功能无法正常运转,甚至会引起整个网站的崩溃。
我们如何在这些业务流量变化无常的情况下,保证各种业务安全运营,系统在任何情况下都不会崩溃呢?我们可以在系统负载过高时,采用限流、降级和熔断,三种措施来保护系统,由此一些流量控制中间件诞生。例如Sentinel。
Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。
Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景, 例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
Sentinel核心分为两个部分:
-
核心库(Java 客户端):能够运行于所有 Java 运行时环境,同时对Dubbo /Spring Cloud 等框架也有较好的支持。
-
控制台(Dashboard):基于 Spring Boot 开发,打包后可以直接运行。
Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能,其控制台安装步骤如下:
第一步:打开sentinel下载网址
https://github.com/alibaba/Sentinel/releases
第二步:下载Jar包(可以存储到一个sentinel目录),如图所示:
第三步:在sentinel对应目录,打开命令行(cmd),启动运行sentinel
java -Dserver.port=8180 -Dcsp.sentinel.dashboard.server=localhost:8180 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.8.1.jar
检测启动过程,如图所示:
第一步:假如Sentinal启动ok,通过浏览器进行访问测试,如图所示:
第二步:登陆sentinel,默认用户和密码都是sentinel,登陆成功以后的界面如图所示:
======================================================================
我们系统中的数据库连接池,线程池,nginx的瞬时并发等在使用时都会给定一个限定的值,这本身就是一种限流的设计。限流的目的防止恶意请求流量、恶意攻击,或者防止流量超过系统峰值。
第一步:Sentinel 应用于服务提供方(sca-provider),在服务提供方添加依赖如下:
com.alibaba.cloud
spring-cloud-starter-alibaba-sentinel
第二步:打开服务提供方配置文件bootstrap.yml,添加sentinel配置,代码如下:
spring:
cloud:
sentinel:
transport:
dashboard: localhost:8180 # 指定sentinel控制台地址。
第三步:创建一个用于演示限流操作的Controller对象,例如:
package com.jt.provider.controller;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RequestMapping(“/provider”)
public class ProviderSentinelController {
@GetMapping(“/sentinel01”)
public String doSentinel01(){
return “sentinel 01 test …”;
}
}
第三步:启动sca-provider服务,然后对指定服务进行访问,如图所示:
第四步:刷新sentinel 控制台,实时监控信息,如图所示:
Sentinel的控制台其实就是一个SpringBoot编写的程序,我们需要将我们的服务注册到控制台上,即在微服务中指定控制台的地址,并且还要在消费端开启一个与sentinel控制台传递数据端的端口,控制台可以通过此端口调用微服务中的监控程序来获取各种信息。
我们设置一下指定接口的流控(流量控制),QPS(每秒请求次数)单机阈值为1,代表每秒请求不能超出1次,要不然就做限流处理,处理方式直接调用失败。
第一步:选择要限流的链路,如图所示:
第二步:设置限流策略,如图所示:
第三步:反复刷新访问消费端端服务,检测是否有限流信息输出,如图所示:
-
Sentinel是什么?(阿里推出一个流量控制平台,防卫兵)
-
类似Sentinel的产品你知道有什么?(hystrix-一代微服务产品)
-
Sentinel是如何对请求进行限流的?(基于sentinel依赖提供的拦截器)
-
你了解哪些限流算法?(计数器、令牌桶、漏斗算法,滑动窗口算法,…)
-
Sentinel 默认的限流算法是什么?(滑动窗口算法)
========================================================================
-
QPS(Queries Per Second):当调用相关url对应的资源时,QPS达到单机阈值时,就会限流。
-
线程数:当调用相关url对应的资源时,线程数达到单机阈值时,就会限流。
Sentinel的流控模式代表的流控的方式,默认【直接】,还有关联,链路。
直接模式
Sentinel默认的流控处理就是【直接->快速失败】。
关联模式
当关联的资源达到指定阈值,就限流自己。例如设置了关联资源为ur2时,假如关联资源url2的qps阀值超过1时,就限流url1接口(是不是感觉很霸道,关联资源达到阀值,是本资源接口被限流了)。这种关联模式有什么应用场景呢?我们举个例子,订单服务中会有2个重要的接口,一个是读取订单信息接口,一个是写入订单信息接口。在高并发业务场景中,两个接口都会占用资源,如果读取接口访问过大,就会影响写入接口的性能。业务中如果我们希望写入订单比较重要,要优先考虑写入订单接口。那就可以利用关联模式;在关联资源上面设置写入接口,资源名设置读取接口就行了;这样就起到了优先写入,一旦写入请求多,就限制读的请求。例如
第一步:在ProviderSentinelController中添加一个方法,例如:
@GetMapping(“/sentinel02”)
public String doSentinel02(){
return “sentinel 02 test …”;
}
第二步:在sentinel中做限流设计,例如
第三步:打开两个测试窗口,对/provider/sentinel02进行访问,检查/provider/sentinel01的状态,例如:
链路模式
链路模式只记录指定链路入口的流量。也就是当多个服务对指定资源调用时,假如流量超出了指定阈值,则进行限流。被调用的方法用@SentinelResource进行注解,然后分别用不同业务方法对此业务进行调用,假如A业务设置了链路模式的限流,在B业务中是不受影响的。现在对链路模式做一个实践,例如:
例如现在设计一个业务对象,代码如下(为了简单,可以直接写在启动类内部):
第一步:在指定包创建一个ResourceService类,代码如下:
package com.jt.provider.service;
@Service
public class ResourceService{
@SentinelResource(“doGetResource”)
public String doGetResource(){
return “doGetResource”;
}
}
第二步:在ProviderSentinelController中添加一个方法,例如:
@Autowired
private ResourceService resourceService;
@GetMapping(“/sentinel03”)
public String doSentinel03() throws InterruptedException {
resourceService.doGetResource();
return “sentinel 03 test”;
}
第三步:在sentinel中配置限流规则,例如:
设置链路流控规则后,再频繁对限流链路进行访问,检测是否会出现500异常,例如
说明,流控模式为链路模式时,假如是sentinel 1.7.2以后版本,Sentinel Web过滤器默认会聚合所有URL的入口为sentinel_spring_web_context,因此单独对指定链路限流会不生效,需要在springboot配置文件application.yml中,添加如下语句来关闭URL PATH聚合,例如:
sentinel:
web-context-unify: false
当设置了这个配置后,启动服务,就可以对指定的特定链路进行限流了。
还有,当我们也可以基于@SentinelResource注解描述的方法进行限流后的异常进行自定义处理,其步骤如下:
第一步:定义blockHandlerClass,例如:
package com.jt.provider.service;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Component;
@Slf4j
@Component
public class ResourceBlockHandler {
/**
-
限流后的异常处理方法,应用于@SentinelResource注解中,
-
此方法在编写时有如下几个要求:
-
1)方法修饰符为public
-
2)必须为static方法
-
3)返回值类型与@SentinelResource注解描述的方法相同
-
4)参数类型为BlockException
-
5)方法名自己定义
-
@param ex
-
@return
*/
public static String doHandle(BlockException ex){
log.error(“block exception {}”, ex.getMessage());
return “访问太频繁了,稍等片刻再访问”;
}
}
第二步:修改@SentinelResource注解中的属性定义,例如:
@SentinelResource(value=“doGetResource”,
blockHandlerClass = ResourceBlockHandler.class,
blockHandler = “doHandle”)
public String doGetResource(){
return “do get resource”;
}
第三步:在controller方法中,调用@Sentinel注解描述的方法,例如:
/**
-
演示链路限流
-
@return
*/
@GetMapping(“/sentinel03”)
public String doSentinel03(){
return resourceService.doGetResource();
//return “sentinel 03 test”;
}
-
你了解sentinel中的阈值应用类型吗?(两种-QPS,线程数)
-
Sentinel的限流规则中默认有哪些限流模式?(直连,关联,链路)
-
Sentinel的限流效果有哪些?(快速失败,预热,排队)
========================================================================
除了流量控制以外,对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。由于调用关系的复杂性,如果调用链路中的某个资源不稳定,最终会导致请求发生堆积。
Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时(例如调用超时或异常比例升高),对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联错误。当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出 DegradeException)。
在ProviderController 类中添加doSentinel05方法,基于此方法演示慢调用过程下的限流,代码如下:
//AtomicLong 类支持线程安全的自增自减操作
private AtomicLong atomicLong=new AtomicLong(1);
@GetMapping(“/sentinel05”)
public String doSentinel05() throws InterruptedException {
//获取自增对象的值,然后再加1
long num=atomicLong.getAndIncrement();
if(num%2==0){//模拟50%的慢调用比例
Thread.sleep(200);
}
return “sentinel 04 test”;
}
说明,我们在此方法中设置休眠,目的是为了演示慢调用(响应时间比较长).
接下来,我们基于一个请求链路,进行服务降级及应用实践,例如:
第一步:服务启动后,选择要降级的链路,如图所示:
第二步:选择要降级的链路,如图所示:
这里表示熔断策略选择"慢调用比例",表示请求数超过3时,假如平均响应时间超过200毫秒的有30%,则对请求进行熔断,熔断时长为20秒钟,10秒以后恢复正常。
第三步:对指定链路进行刷新,多次访问测试,检测页面上是否会出现限流(默认异常为DegradeException).
我们也可以进行断点调试,在DefaultBlockExceptionHandler中的handle方法内部加断点,分析异常类型,假如异常类型DegradeException则为降级熔断。
系统提供了默认的异常处理机制,假如默认处理机制不满足我们需求,我们可以自己进行定义。定义方式上可以直接或间接实现BlockExceptionHandler接口,并将对象交给spring管理。
package com.jt.provider.controller;
import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.BlockExceptionHandler;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.fasterxml.jackson.databind.ObjectMapper;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Component;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.PrintWriter;
import java.util.HashMap;
import java.util.Map;
/**
- 自定义限流,降级等异常处理对象
*/
@Slf4j
@Component
public class ServiceBlockExceptionHandler
implements BlockExceptionHandler {
/**
- 用于处理BlockException类型以及子类类型异常
*/
@Override
public void handle(HttpServletRequest request,
HttpServletResponse response,
BlockException e) throws Exception {
//设置响应数据编码
response.setCharacterEncoding(“utf-8”);
//告诉客户端响应数据的类型,以及客户端显示内容的编码
response.setContentType(“text/html;charset=utf-8”);
//向客户端响应一个json格式的字符串
//String str=“{“status”:429,“message”:“访问太频繁了”}”;
Map<String,Object> map=new HashMap<>();
map.put(“status”, 429);
map.put(“message”,“访问太频繁了”);
String jsonStr=new ObjectMapper().writeValueAsString(map);
PrintWriter out = response.getWriter();
out.print(jsonStr);
out.flush();
out.close();
}
}
知其然不知其所以然,大厂常问面试技术如何复习?
1、热门面试题及答案大全
面试前做足功夫,让你面试成功率提升一截,这里一份热门350道一线互联网常问面试题及答案助你拿offer
2、多线程、高并发、缓存入门到实战项目pdf书籍
3、文中提到面试题答案整理
4、Java核心知识面试宝典
覆盖了JVM 、JAVA集合、JAVA多线程并发、JAVA基础、Spring原理、微服务、Netty与RPC、网络、日志、Zookeeper、Kafka、RabbitMQ、Hbase、MongoDB 、Cassandra、设计模式、负载均衡、数据库、一致性算法 、JAVA算法、数据结构、算法、分布式缓存、Hadoop、Spark、Storm的大量技术点且讲解的非常深入
esponse.getWriter();
out.print(jsonStr);
out.flush();
out.close();
}
}
知其然不知其所以然,大厂常问面试技术如何复习?
1、热门面试题及答案大全
面试前做足功夫,让你面试成功率提升一截,这里一份热门350道一线互联网常问面试题及答案助你拿offer
[外链图片转存中…(img-dcGBfczp-1725980663728)]
2、多线程、高并发、缓存入门到实战项目pdf书籍
[外链图片转存中…(img-vDE3BCvt-1725980663728)]
[外链图片转存中…(img-R6e91t1U-1725980663729)]
[外链图片转存中…(img-UhibuTDa-1725980663729)]
3、文中提到面试题答案整理
[外链图片转存中…(img-KlF6YBEW-1725980663730)]
4、Java核心知识面试宝典
覆盖了JVM 、JAVA集合、JAVA多线程并发、JAVA基础、Spring原理、微服务、Netty与RPC、网络、日志、Zookeeper、Kafka、RabbitMQ、Hbase、MongoDB 、Cassandra、设计模式、负载均衡、数据库、一致性算法 、JAVA算法、数据结构、算法、分布式缓存、Hadoop、Spark、Storm的大量技术点且讲解的非常深入
[外链图片转存中…(img-fInBdUx9-1725980663731)]
[外链图片转存中…(img-wNa88vtM-1725980663731)]
[外链图片转存中…(img-6gexl1WQ-1725980663732)]