接口限流算法令牌桶、滴桶算法

最新推荐文章于 2024-05-27 10:37:51 发布

w3x3g

最新推荐文章于 2024-05-27 10:37:51 发布

阅读量329

点赞数

文章标签：算法 java 开发语言

本文链接：https://blog.csdn.net/w3x3g/article/details/127204092

版权

接口限流算法的概括

在接口限流算法的介绍当中，主要存在四种算法;
1、固定窗口算法
2、滑动窗口算法
3、滴桶算法
4、令牌桶算法
这里要对滴桶算法、令牌桶算法做叙述和算法的代码实现。

滴桶算法

大致的漏桶限流规则如下：

（1）进水口（对应客户端请求）以任意速率流入进入漏桶。

（2）漏桶的容量是固定的，出水（放行）速率也是固定的。

（3）漏桶容量是不变的，如果处理速度太慢，桶内水量会超出了桶的容量，则后面流入的水滴会溢出，表示请求拒绝
在这里插入图片描述

滴桶算法，首先需要有一个容器，然后有水滴不断的从容器上方的口，做填充，与此同时，容器底部有漏口，漏口处均匀的滴出水滴。其中当容器当中的水，已经盛满的状态下，水滴会溢出。

特点：填充容器的水滴，其滴入的速度是不受限制的，而漏口处的水滴是均匀流出的。
这里的水滴就是不断涌来的请求，当容器当中的请求已经达到阈值，则会对接下来的请求做拒绝策略。水滴的滴出就是请求不断被处理的过程。

削峰：有大量流量进入时,会发生溢出,从而限流保护服务可用

缓冲：不至于直接请求到服务器, 缓冲压力

@RestController
public class DemoTestController {
    public static final String SUCCESS = "SUCCESS";
    public static Map<String, Integer> MAP = null;
    /*** bucket size */
    public static final int BUCKET_SIZE = 1000;
    /*** minus size */
    public static final int MINUS_SIZE = 10;
    /*** current size identity */
    public static final String CURRENT_SIZE_IDENTITY = "CURRENT_SIZE_IDENTITY";

    @PostConstruct
    public void init() {
        //init container
        MAP = new ConcurrentHashMap<>(1);
        MAP.put(CURRENT_SIZE_IDENTITY, 0);
    }

    /**
     * execute once every 1 seconds
     * if it has executed ,current bucket size - MINUS_SIZE
     */
    @Scheduled(cron = "0/1 * * * * ?")
    public void minus() {
        //get current bucket size
        Integer currentBucketSize = MAP.get(CURRENT_SIZE_IDENTITY);
        if (currentBucketSize >= MINUS_SIZE) {
            MAP.put(CURRENT_SIZE_IDENTITY, currentBucketSize - MINUS_SIZE);
        }
        System.out.println(currentBucketSize);

    }

    @RequestMapping("/demoTest")
    public String demoTest() {
        //get current bucket size
        Integer currentBucketSize = MAP.get(CURRENT_SIZE_IDENTITY);
        if (currentBucketSize > BUCKET_SIZE - 1) {
            System.out.println("sorry,request too fast!");
        }else{
            MAP.put(CURRENT_SIZE_IDENTITY, currentBucketSize + 1);
        }
        return SUCCESS;
    }
}

上面的代码，就是滴桶算法的体现，
其中请求接口，就是水滴滴入容器的过程，要保证请求的加入，不会让桶溢出。
其中定时的方法啊，就是模拟了一个请求被处理完成，这时候就会被移出水桶，上图是假设业务处理时间为 1秒。

二、令牌桶算法

令牌桶限流大致的规则如下：

（1）进水口按照某个速度，向桶中放入令牌。

（2）令牌的容量是固定的，但是放行的速度不是固定的，只要桶中还有剩余令牌，一旦请求过来就能申请成功，然后放行。

（3）如果令牌的发放速度，慢于请求到来速度，桶内就无牌可领，请求就会被拒绝。
总之，令牌的发送速率可以设置，从而可以对突发的出口流量进行有效的应对。

令牌桶算法中新请求到来时会从桶里拿走一个令牌，如果桶内没有令牌可拿，就拒绝服务。当然，令牌的数量也是有上限的。令牌的数量与时间和发放速率强相关，时间流逝的时间越长，会不断往桶里加入越多的令牌，如果令牌发放的速度比申请速度快，令牌桶会放满令牌，直到令牌占满整个令牌桶。
在这里插入图片描述
特点：相比较滴桶算法，令牌桶算法会允许某个时间进入较多的请求，并加以处理，因为滴桶算法，滴出水滴的速度是恒定的，但是令牌桶，如果聚集了很多的令牌，此时就允许很多请求同时涌入。

@RestController
public class DemoTestController {
    public static final String SUCCESS = "SUCCESS";
    public static Map<String, Integer> MAP = null;
    /*** bucket size */
    public static final int BUCKET_SIZE = 10000;
    /*** add size */
    public static final int ADD_SIZE = 100;
    /*** current size identity */
    public static final String CURRENT_SIZE_IDENTITY = "CURRENT_SIZE_IDENTITY";

    @PostConstruct
    public void init() {
        //init container
        MAP = new ConcurrentHashMap<>(1);
        MAP.put(CURRENT_SIZE_IDENTITY, 1000);
    }

    /**
     * execute once every 1 seconds
     * if it has executed ,current bucket size - MINUS_SIZE
     */
    @Scheduled(cron = "0/1 * * * * ?")
    public void minus() {
        //get current bucket size
        Integer currentBucketSize = MAP.get(CURRENT_SIZE_IDENTITY);
        if (currentBucketSize <= BUCKET_SIZE - ADD_SIZE) {
            MAP.put(CURRENT_SIZE_IDENTITY, currentBucketSize + ADD_SIZE);
        }
        System.out.println(currentBucketSize);

    }

    @RequestMapping("/demoTest")
    public String demoTest() {
        //get current bucket size
        Integer currentBucketSize = MAP.get(CURRENT_SIZE_IDENTITY);
        if (currentBucketSize == 0) {
            System.out.println("sorry,request too fast!");
        } else {
            MAP.put(CURRENT_SIZE_IDENTITY, currentBucketSize - 1);
        }
        return SUCCESS;
    }
}