在开发高并发系统时,有三把利器用来保护系统:缓存、降级和限流:
缓存:缓存的目的是提升系统访问速度和增大系统处理容量
降级:降级是当服务出现问题或者影响到核心流程时,需要暂时屏蔽掉,待高峰或者问题解决后再打开
限流:限流的目的是通过对并发访问/请求进行限速,或者对一个时间窗口内的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理
常见算法:
1、计时器限流
2、滑动窗口
3、漏桶算法
4、令牌桶算法
计时器限流
计时器是限流算法中比较简单的一种算法,比如:限制一个接口1分钟内不能超过100次请求,可以在一开始设置一个计数器,每当接收到请求时,将计数器加1,如果计数器的值大于100并且当前请求与第一个请求的执行时间间隔还在1分钟内的,那就说明请求过多;如果当前请求与第一次请求的时间间隔超过1分钟,并且请求次数没有超限的,那么重置计数器
import org.springframework.data.redis.core.RedisTemplate;
/**
* 计数器限流
* 限制1分钟内请求100次
* 弊端:
* 1、当前窗口100个请求全部集中到结束点,下个窗口100个请求全部集中到起始点,临界点就会出现请求暴增的情况,可能瞬间压垮应用
* 2、只适用于单机应用,分布式环境中无法满足
*
* @author lile
* @date 2019/7/1618:59
*/
public class CounterLimit {
//时间窗口内的最大请求数
public final int reqCount = 100;
//时间窗口内的当前请求数
private int currentReqCount;
//时间窗口的长度 单位:ms
public final int interval = 60 * 1000;
//当前时间
public Long currentTimestamp = System.currentTimeMillis();
public RedisTemplate redisTemplate;
public final String key = "minute_test";
/**
* 计数器限流
*
* @return
*/
public boolean grant() {
Long nowTimestamp = System.currentTimeMillis();
if (nowTimestamp < currentTimestamp + interval) {
//在当前时间窗口内
currentReqCount++;
//判断当前时间窗口的请求数是否小于最大的请求限制数
return currentReqCount < reqCount;
}
//不在当前窗口内时,重置下个窗口的首次请求时间及窗口内请求数
currentReqCount = 1;
currentTimestamp = nowTimestamp;
return true;
}
/**
* 滑动窗口的限流
* 保证时间窗口中的请求数不超过最大限制数即可,能平稳的控制请求的速率,请求过快会被拒绝
* 窗口时间范围定为1分钟,每次接收到请求后重新划分时间窗口,当前时间往前的1分钟范围为新的时间窗口
*
* @return
*/
public boolean DuoJiQi() {
Long nowTimestamp = System.currentTimeMillis();
if (redisTemplate.opsForZSet().size(key) > 0) {
//移除不在当前时间窗口的数据
redisTemplate.opsForZSet().removeRangeByScore(key, 0, nowTimestamp - interval);
}
redisTemplate.opsForZSet().add(key, "当前请求的唯一ID", nowTimestamp);
if (redisTemplate.opsForZSet().size(key) > reqCount) {
//请求超限,禁止提交请求
return false;
}
return true;
}
}
滑动窗口