限流算法+每个算法实现方案

一、限流概念

阈值:在一个单位时间内允许的请求量。如QPS 限制为10,说明 1 秒内最多接受 10 次请求。
拒绝策略:超过阈值的请求的拒绝策略,常见的拒绝策略有直接拒绝、排队等待等。

一、限流算法

5种限流算法

1、固定窗口算法
2、滑动窗口算法
3、滑动日志算法
4、漏桶算法
5、令牌桶算法

1、固定窗口算法

固定窗口算法又叫计数器算法,比如:计算一秒内多少请求,过完一秒清空重新计数。每隔 1 秒重置计数器

缺点:遇到时间窗口的临界突变时,如 1s 中的后 500 ms 和第 2s 的前 500ms 时,虽然是加起来是 1s 时间,
却可以被请求 4 次。

在这里插入图片描述
实现方式:

1Redis 中的固定窗口限流是使用 incr 命令实现的,incr 命令通常用来自增计数;
如果我们使用时间戳信息作为 key,自然就可以统计每秒的请求量了,以此达到限流目的。

2、滑动窗口算法

主要是对:固定窗口算法在遇到时间窗口的临界突变时问题改进。

实现方式:

实现原理,通过redis的zset数据结构来实现,比如我们设置的10秒内最多5个请求,请求进来,
我们把请求的时候实现作为分数,添加到zset里面去,那怎么判断有没有超过窗口限定数量呢,
通过当前时间减去10秒,那么zset集合中,就剩下10内请求的数量了,然后判断当前数量是否超过5个,
如果超过就拒绝,没有超过就添加,下次请求过来也是这样判断。

代码的话最好使用redis事务,或者lu a脚本解决。

方式二:
直接存到Zset里面去,在使用Zset的通过范围查询数据,比如下面命令
jedis.zadd(zsetName, 10.0, "member1");//存数据
jedis.zrangeByScoreWithScores(zsetName, minScore, maxScore);//按范围查数据

3、滑动日志算法

滑动日志算法是实现限流的另一种方法,这种方法比较简单。
基本逻辑就是记录下所有的请求时间点,新请求到来时先判断最近指定时间范围内的请求数量是否超过指定阈值,
由此来确定是否达到限流,这种方式没有了时间窗口突变的问题,限流比较准确,

缺点就是:要记录下每次请求的时间点,所以占用的内存较多。

4、漏桶算法

5、令牌桶算法

令牌桶的实现算法有:Guava

三、限流方案

1、Nginx限流
2、Gateway和Zuul
3、限流sentinel
4、Guava类里面的RateLimiter

  • 8
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
令牌桶算法是一种常见的限流算法,它可以控制请求的速率,防止系统被过多的请求压垮。下面是Java实现令牌桶算法的步骤和代码逻辑: 1. 定义一个令牌桶类,包含以下属性: - 最后一次令牌发放时间 - 桶的容量 - 令牌生成速度 - 当前令牌数量 2. 实现一个获取令牌的方法,该方法会在每次请求到来时被调用,具体实现如下: - 计算当前令牌数量 - 判断当前令牌数量是否足够 - 如果令牌数量不足,则拒绝请求 - 如果令牌数量足够,则领取令牌,并执行业务逻辑 3. 使用ScheduledExecutorService定时生成令牌,具体实现如下: - 每隔一段时间生成一定数量的令牌 - 如果令牌数量超过桶的容量,则不再生成令牌 下面是Java实现令牌桶算法的代码逻辑: ``` @Slf4j public class TokensLimiter { private ScheduledExecutorService scheduledExecutorService = Executors.newScheduledThreadPool(5); // 最后一次令牌发放时间 public long timeStamp = System.currentTimeMillis(); // 桶的容量 public int capacity = 10; // 令牌生成速度10/s public int rate = 10; // 当前令牌数量 public int tokens; public void acquire() { scheduledExecutorService.scheduleWithFixedDelay(() -> { long now = System.currentTimeMillis(); // 当前令牌数 tokens = Math.min(capacity, (int) (tokens + (now - timeStamp) * rate / 1000)); // 每隔0.5秒发送随机数量的请求 int permits = (int) (Math.random() * 9) + 1; log.info("请求令牌数:" + permits + ",当前令牌数:" + tokens); timeStamp = now; if (tokens < permits) { // 若不到令牌,拒绝 log.info("限流了"); } else { // 还有令牌,领取令牌 tokens -= permits; log.info("剩余令牌=" + tokens); } }, 1000, 500, TimeUnit.MILLISECONDS); } public static void main(String[] args) { TokensLimiter tokensLimiter = new TokensLimiter(); tokensLimiter.acquire(); } } ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

信仰_273993243

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值