1、前言
对于分布式系统而言,常常有很多高并发场景需要我们去处理,比如秒杀等等场景,而这些场景需要对某些接口进行限流然后进行操作。
2、限流算法
目前来说常用的三种限流算法如下所示:
- 计数器法
- 漏桶法
- 令牌桶法
2.1 计数器法
计数器法通常用来限制每秒的请求的数量,是最简单的限流算法。具体的思路如下:
- 为每秒的请求设置一个阈值
- 请求过来的时候,判断该秒的请求数量是否大于等于阈值,如果大于等于阈值,则对该请求返回特定的返回码,否则该秒的请求数量加一,处理该请求,并正常返回。
2.2 漏桶算法
如图所示:
- 在该模型中有几个参数需要注意,桶的容量B,流出速率R,初始容量F。
- 水(请求)先流入桶(缓存)中,当桶中的水满了的时候,则多余的水会溢出(拒绝请求)。
- 系统根据流出速率来处理请求。
2.3 令牌桶算法
如图所示:
- 系统会按恒定的速率往令牌桶中添加令牌,当令牌桶满了的时候,则不接受令牌
- 当有请求过来的时候,先从令牌桶中取令牌,如果取不到令牌,则拒绝该请求,当取到令牌后,则处理该请求。
关于该算法的实现,则Google的Guava中的RateLimiter类实现了该算法,我们使用该类很容易写出一个简单的限流操作。
import com.google.common.util.concurrent.RateLimiter;
import java.util.Date;
import static java.util.concurrent.TimeUnit