基于 Redis 的 setnx 操作
我们在使用 Redis 分布式锁的时候,都知道是依靠了 setnx 的指令,在 CAS(compare and swap)操作的时候,同时给指定的 key 设置了过期时间(expire)。限流的主要目的就是为了在单位时间内,有且仅有 N 个数量的请求能够访问程序。所以依靠 setnx 可以很轻松的做到。
比如需要在 10 秒内限定 20 个请求,那么在 setnx 的时候就可以设置过期时间为 10,当请求的 setnx 数量达到 20 时候就达到了限流效果。
当然这种做法的弊端是很多的,比如当要统计 1 ~ 10 秒的时候,无法统计 2 ~ 11 秒之内。如果需要统计 N 秒内的 M 个请求,那么 Redis 中需要保持 N 个 key。
基于 Redis 的数据结构 zset
其实限流所涉及到的最主要的就是滑动窗口,上面提到 1 ~ 10 怎么变成 2 ~ 11,其实就是起始值和末尾值都各 +1 即可。用 Redis 的 list 数据结构可以轻而易举地实现。
可以将请求打造成一个 zset 数组,当每一次请求进来的时候,value 保持唯一,可以用 UUID 生成,而 score 可以用当前时间戳来表示,因为可以用 score 来计算当前时间戳之内有多少请求数量。而 zset 数据结构也提供了 range 方法来很轻易地获取到两个时间戳内有多少请求,缺点是 zset 的数据结构会越来越大。
以下代码省去了一些程序的上下文环境描述。
public Response limitFlow() {
Long currentTime = new Date().getTime();
System.out.println(currentTime);
if(redisTemplate.hasKey("limit")) {
// intervalTime是限流的时间
Integer count = redisTemplate.opsForZSet().rangeByScore("limit", currentTime - intervalTime, currentTime).size();
System.out.println(count);
if (count != null && count > 5) {
return Response.ok("每分钟最多只能访问5次");
}
}
redisTemplate.opsForZSet().add("limit", UUID.randomUUID().toString(), currentTime);
return Response.ok("访问成功");
}
基于 Redis 的令牌桶算法
提到限流就不得不提到令牌桶算法了。令牌桶算法涉及到输入速率和输出速率,当输出速率大于输入速率时,那么就是超出流量限制了。也就是说,每访问一次请求时,可以从 Redis 中获取一个令牌,如果拿到令牌了,就说明没超出限制;而如果拿不到,则结果相反。
依靠上述思想,我们可以结合 Redis 的 list 数据结构很轻易地做到。以下代码省去了一些程序的上下文环境描述。
// 输出令牌, 依靠list的leftPop来获取令牌
public Response limitFlow2(Long id) {
Object result = redisTemplate.opsForList().leftPop("limit_list");
if(result == null){
return Response.ok("当前令牌桶中无令牌");
}
return Response.ok(articleDescription2);
}
// 再依靠java的定时任务, 定时往List中rightPush令牌, 当然令牌也需要唯一性, 所以这里还是用UUID进行生成
// 10s的速率往令牌桶中添加UUID, 只为保证唯一性
@Scheduled(fixedDelay = 10_000, initialDelay = 0)
public void setIntervalTimeTask() {
redisTemplate.opsForList().rightPush("limit_list", UUID.randomUUID().toString());
}