限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务(定向到错误页或告知资源没有了)、排队或等待(比如秒杀、评论、下单)、降级(返回兜底数据或默认数据,如商品详情页库存默认有货)。
常见的限流算法有:令牌桶、漏桶。计数器也可以进行粗暴限流实现。
一、使用Redis实现
存储两个key,一个用于计时,一个用于计数。请求每调用一次,计数器增加1,若在计时器时间内计数器未超过阈值,则可以处理任务
BoundValueOperations<String, String> vOpsCounter = redisTemplate.boundValueOps("testCounter");
ValueOperations<String, String> vOpsTime = redisTemplate.opsForValue();
while (true) {
String t = vOpsTime.get("testTime");
if (StringUtils.isBlank(t)) {
vOpsTime.set("testTime", "0", 1, TimeUnit.SECONDS);
vOpsCounter.expire(2, TimeUnit.SECONDS);
}
if (StringUtils.isNotBlank(t) && vOpsCounter.increment(1L) > 1000) {
System.out.println(vOpsCounter.increment(0L) + "===超流");
break;
}else{
System.out.print("执行===");
}
}
System.out.println("结束");
二、令牌桶
令牌桶算法是一个存放固定容量令牌的桶,按照固定速率往桶里添加令牌。令牌桶算法的描述如下:
-
假设限制2r/s,则按照500毫秒的固定速率往桶中添加令牌;
-
桶中最多存放b个令牌,当桶满时,新添加的令牌被丢弃或拒绝;
-
当一个n个字节大小的数据包到达,将从桶中删除n个令牌,接着数据包被发送到网络上;
-
如果桶中的令牌不足n个,则不会删除令牌,且该数据包将被限流(要么丢弃,要么缓冲区等待)。
// 默认每秒产生N(10)个许可证
static RateLimiter rate = RateLimiter.create(10);
// 可以自己指定单位
// static RateLimiter rate = RateLimiter.create(1000, 1, TimeUnit.SECONDS);
public static void main(String[] args) {
// 阻塞直到获取1个许可证
// rate.acquire();
for (int i = 0; i < 10; i++) {
new Thread(new Runnable() {
@Override
public void run() {
// 非阻塞获取,在指定时间范围内获取许可
if (rate.tryAcquire(1, 500, TimeUnit.MILLISECONDS)) {
System.out.println("======>>执行");
} else {
System.out.println("======>>超流");
}
}
}).start();
}
}
---------------------------------------------------------------->>写得不好地方,请留言