参考资料:
有关漏桶和令牌桶的算法介绍: 聊聊高并发系统之限流特技 - 《亿级流量网站架构核心技术》~ - ITeye博客
有关限流的介绍: 滑动验证页面
漏桶算法
用一个固定大小的队列。比如设置限流为5qps,1s可以接受5个请求;那我们就造一个大小为5的队列,如果队列为满了,就拒绝请求;如果队列未满,就往队列添加请求。
理解它的应用场景很重要, 使用该限流方法就是为了整形流量,防止把自己的系统搞挂了;
令牌算法
令牌听起来挺酷的。以固定的速率往桶里发放令牌。然后消费者每次要取到令牌(acquire)才可以响应请求.
由于令牌是固定间隔发放的,假设还是5qps,如果我有1s内没有请求,我的令牌桶就满了,可以一瞬间响应5个请求(一次过取5个令牌),也就是可以应对瞬时流量.
ratelimiter就是令牌桶算法;
漏桶算法可以用一个列表, 请求进来往列表里面放, 如果列表满了则丢弃;
令牌桶算法和漏桶算法对比
(1)令牌桶算法是按照固定速率往桶中添加令牌,请求是否被处理需要看桶中令牌是否足够,当令牌数减为零时则拒绝新的请求;漏桶则是按照常量固定速率流出请求,流入请求速率任意,当流入的请求数累积到漏桶容量时,则新流入的请求被拒绝;
(2)令牌桶算法限制的是平均流入速率,允许突发请求,只要有令牌就可以处理,支持一次拿多个令牌,比如10个或15个;漏桶算法限制的是常量流出速率,即流出速率是一个固定常量,比如速率流出1,则一直都是1,而不能一次是1,下次是2,从而可以平滑突发流入速率;
(3)令牌桶算法允许一定程度的突发流量,而漏桶算法可以平滑流出速率;