Google guava第二讲：Ratelimiter限流原理与实现

本文是Google guava第二讲：Ratelimiter 限流原理与实现

1、为什么做限流？

• 在开发高并发系统时，有三把利器用来保护系统：缓存、降级和限流。限流可以认为服务降级的一种，限流通过限制请求的流量以达到保护系统的目的。

• 一般来说，系统的吞吐量是可以计算出一个阈值的，为了保证系统的稳定运行，一旦达到这个阈值，就需要限制流量并采取一些措施以完成限制流量的目的。比如：延迟处理，拒绝处理，或者部分拒绝处理等等。否则，很容易导致服务器的宕机。

使用场景：

• 1、数据迁移和修复的工作：例如我做过的：协议续签、商品联动协议状态
• 2、大批量数据操作：例如：一键审核

开源软件中限流的设计

• Nginx中限制瞬时并发连接数的limit_conn 模块，限制每秒平均速度的limit_req模块

2、限流算法

1、计数器算法

• 原理：维护一个 counter变量，规定在单位时间内counter的大小不能超过最大值，每隔固定时间就将counter的值置为零。counter超过阈值就拒绝服务。

2、漏桶算法

• 原理：维护一个固定容量的桶，按照指定的速度漏水，如果桶空了，就会停止漏水，如果桶满了，就会忽略后面来的请求