如何对请求进行限流？

前言

本文隶属于专栏《100个问题搞定Java并发》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！

本专栏目录结构和参考文献请见100个问题搞定Java并发

正文

Guava

Guava 是 Google 下的一个核心库，提供了一大批设计精良、使用方便的工具类。

许多 Java 项目都使用 Guava 作为其基础工具库来提升开发效率，我们可以认为 Guava 是 JDK 标准库的重要补充。

RateLimiter

在这里，将给大家介绍 Guava 中的一款限流工具 RateLimiter 。

任何应用和模块组件都有一定的访问速率上限，如果请求速率突破了这个上限，不但多余的请求无法处理，甚至会压垮系统使所有的请求均无法有效处理。

因此，对请求进行限流是非常必要的。

RateLimiter 正是这么一款限流工具。

限流算法

一种简单的限流算法就是给出一个单位时间，然后使用一个计数器 counter 统计单位时间内收到的请求数量，当请求数量超过门限时，余下的请求丢弃或者等待。

但这种简单的算法有一个严重的问题，就是很难控制边界时间上的请求。

假设时间单位是 1 秒，每秒请求不超过 10 个。

如果在这一秒的前半秒没有请求，而后半秒有 10 个请求，下一秒的前半秒又有 10 个请求，那么在这中间的一秒内，就会合理处理 20 个请求，而这明显违反了限流的基本需求。

这是一种简单粗暴的总数量限流而不是平均限流。

因此，更为一般化的限流算法有两种: 漏桶算法和令牌桶算法。

漏桶算法

漏桶算法的基本思想是: 利用一个缓存区，当有请求进入系统时，无论请求的速率如何，都先在缓存区内保存，然后以固定的流速流出缓存区进行处理。

漏桶算法的特点是无论外部请求压力如何，漏桶算法总是以固定的流速处理数据。

漏桶的容积和流出速率是该算法的两个重要参数。

令牌桶算法

令牌桶算法是一种反向的漏桶算法。

在令牌桶算法中，桶中存放的不再是请求，而是令牌。

处理程序只有拿到令牌后，才能对请求进行处理。

如果没有令牌，那么处理程序要么丢弃请求，要么等待可用的令牌。

为了限制流速，该算法在每个单位时间产生一定量的令牌存入桶中。

比如，要限定应用每秒只能处理 1 个请求，那么令牌桶就会每秒产生 1 个令牌。

通常，桶的容量是有限的，比如，当令牌没有被消耗掉时，只能累计有限单位时间内的令牌数量。

RateLimiter正是采用了令牌桶算法

使用

下例展示了 RateLimiter的使用方法

import com.google.common.util.concurrent.RateLimiter;

public class RateLimiterDemo {
	static RateLimiter limiter = RateLimiter.create(2);

	public static class Task implements Runnable {
		@Override
		public void run() {
			System.out.println(System.currentTimeMillis());
		}
	}

	public static void main(String args[]) throws InterruptedException {
		for (int i = 0; i < 50; i++) {
			limiter.acquire();
			new Thread(new Task()).start();
		}
	}
}

1636378998188
1636378998691
1636378999191
1636378999692
1636379000187
1636379000686

从输出的时间戳可以看到每秒至多输出两条记录，起到了流量控制的效果。

当使用 acquire 方法时，过剩的流量调用会等待，直到有机会执行但在有些场景中，如果系统无法处理请求，为了保证服务质量，更倾向于直接丢弃过载请求，从而避免可能的崩溃，此时，则可以使用 IryAcquire() 方法，如下所示。

import com.google.common.util.concurrent.RateLimiter;

public class RateLimiterDemo2 {
	static RateLimiter limiter = RateLimiter.create(2);

	public static class Task implements Runnable {
		@Override
		public void run() {
			System.out.println(System.currentTimeMillis());
		}
	}

	public static void main(String args[]) throws InterruptedException {
		for (int i = 0; i < 50; i++) {
			if(!limiter.tryAcquire()) {
			    continue;
			}
			new Thread(new Task()).start();
		}
	}
}

当请求成功时， tryAcquire()方法返回 true ，否则返回 false ，该方法不会阻塞。

在本段代码中，如果访问数据量超过限制，那么超出部分则直接丢弃，不再进行处理。

根据前文的描述， limiter 仅支持 1 秒两次调用。

也就是每 500 毫秒可以产生一个令牌，显然由于 for 循环本身的效率很高，完全可以在 500 毫秒内完成，因此本段代码最终只产生一个输出其余请求全部被丢弃。

1636379123106