限流方案有不少,也可以从不同层级做不同的限流方案,大致如下:
-
通过访问来源、黑白名单等进行访问限制
-
通过NGINX来进行限流,控制访问频率、并发连接数等
-
通过容器,如Tomcat来控制最大线程数等
-
服务端通过记录访问记录来进行限流
一、背景
本文只简单就服务端通过redis做限流的几种方式做一些介绍。较为简单和常见的方式一般分为固定窗口和滑动窗口两大类。还有其他比较复杂的方式,后续再进行拓展补全
二、固定窗口限流
所谓固定窗口限流即时间窗口的起始和结束时间是固定的,在固定时间段内允许要求的请求数量访问,超过则拒绝;当固定时间段结束后,再重新开始下一个时间段进行计数。
用到的redis命令:
1)incr(key) :记录访问次数
2)expire() :设置过期时间,即固定时间段
3)ttl():判断是否过期
用redis的incr(key) + expire()进行设置,通过对value和最大限制次数对比,来判断是否超限;通过ttl判断缓存是否过期或者是否为初始状态进行过期时间设置,以此来实现限流的目的。
该方式优点是比较简单粗暴,缺点是不够灵活,对于边界问题不能够处理,如设置的时间段刚开始时流量占满了设置的最大次数,后面一段时间则不能够再进行访问,必须等该时间段过了后才可以再次访问。
三、滑动窗口限流
针对固定窗口限流的问题,可以采用滑动窗口来优化改善。所谓滑动窗口即设置的时间窗口的起始和结束时间是不断变化的,时间差值不变,允许的请求数量不变。
用到的redis部分:zset结构进行存储访问记录,score为时间戳,利用UUID产生value,防止重复。
1)ZADD():添加唯一值及时间戳
2)ZCOUNT:获取指定开始至结束时间段的访问次数
通过每次获取的时间段的不同实现窗口的滑动;通过访问次数判断是否允许访问。该方式因每访问一次会存储一个元素,会导致该zset特别大,所以可以添加删除策略,通过ZREMRANGEBYSCORE进行zset区间元素的删除。
判断删除策略如下:
1)每次删除当前时间窗口之外的所有元素,该方法可能会每次访问都要进行移除操作。
2)通过ZCARD命令获取zset所有元素数量,并设置删除阈值为限流最大值的N倍,当达到该值时再进行删除当前时间窗口之外的所有元素的操作
四、其他限流方式
服务端限流方式还有利用漏桶算法、令牌桶算法进行的限流,后续有时间再进行总结,大家也可以去网上去搜索学习一下。
该文只是对于简单的业务场景的几种简单的限流方式,而且对于redis做限流不用考虑多机的问题。