《限流算法》 - 滑动时间窗口 - 单机简易版
- 本文示例是基于guava本地缓存的滑动时间窗口限流实现,需要导入guava的Jar依赖。
- 使用guava Cache本地缓存的话,它和普通Map对象类似,普通Map考虑到内存空间问题,需要自己手动移除不需要的键值对。而guava Cache中为了限制内存的使用空间通常会自动的对内存进行回收。
- 本文遗留的问题,在秒为粗粒度的情况下,当前秒的数值并不代表真实的数值,只有在当前秒已成为过去式,所get的值才是一个最终值。这个问题单位粗粒度约粗约明显。
1、pom.xml
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>30.1.1-jre</version>
</dependency>
2、代码
package com.test;
import com.google.common.cache.CacheBuilder;
import com.google.common.cache.CacheLoader;
import com.google.common.cache.LoadingCache;
import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicLong;
public class WindowLimiter {
private LoadingCache<Long, AtomicLong> myLoadingCache = CacheBuilder.newBuilder()
.expireAfterWrite(10, TimeUnit.SECONDS)
.build(new CacheLoader<Long, AtomicLong>() {
@Override
public AtomicLong load(Long seconds) {
return new AtomicLong(0);
}
});
private ScheduledExecutorService scheduledExecutorService = Executors.newScheduledThreadPool(5);
private long limit = 15;
public void slideWindow() {
scheduledExecutorService.scheduleWithFixedDelay(new Runnable() {
@Override
public void run() {
try {
long threadId = Thread.currentThread().getId();
SimpleDateFormat simpleDateFormat = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
long milliSecondsNow = System.currentTimeMillis();
long secondsNow = milliSecondsNow / 1000;
int reqs = (int) (Math.random() * 5) + 1;
myLoadingCache.get(secondsNow).addAndGet(reqs);
long nums = 0;
for (int i = 0; i < 5; i++) {
AtomicLong atomicLong = myLoadingCache.get(secondsNow - i);
nums += atomicLong.get();
}
System.out.println("线程:" + threadId + " 时间:" + simpleDateFormat.format(new Date(milliSecondsNow)) + " 当前请求次数:" + reqs + " 前5秒合计请求次数:" + nums);
if (nums > limit) {
System.out.println("线程:" + threadId + " 时间:" + simpleDateFormat.format(new Date(milliSecondsNow)) + " ===============限流了,前5秒合计请求次数:" + nums);
}
} catch (Exception e) {
e.printStackTrace();
}
}
}, 5000, 1000, TimeUnit.MILLISECONDS);
}
public static void main(String[] args) {
new WindowLimiter().slideWindow();
}
}
3、运行结果
"D:\Program Files\Java\jdk1.8.0_261\bin\java.exe" "-javaagent:D:\Program Files....
线程:12 时间:2021-12-23 23:29:48 当前请求次数:1 前5秒合计请求次数:1
线程:12 时间:2021-12-23 23:29:49 当前请求次数:2 前5秒合计请求次数:3
线程:14 时间:2021-12-23 23:29:50 当前请求次数:2 前5秒合计请求次数:5
线程:12 时间:2021-12-23 23:29:51 当前请求次数:2 前5秒合计请求次数:7
线程:15 时间:2021-12-23 23:29:52 当前请求次数:3 前5秒合计请求次数:10
线程:15 时间:2021-12-23 23:29:53 当前请求次数:4 前5秒合计请求次数:13
线程:15 时间:2021-12-23 23:29:54 当前请求次数:3 前5秒合计请求次数:14
线程:15 时间:2021-12-23 23:29:55 当前请求次数:1 前5秒合计请求次数:13
线程:15 时间:2021-12-23 23:29:56 当前请求次数:5 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:29:56 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:29:57 当前请求次数:3 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:29:57 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:29:58 当前请求次数:3 前5秒合计请求次数:15
线程:15 时间:2021-12-23 23:29:59 当前请求次数:2 前5秒合计请求次数:14
线程:15 时间:2021-12-23 23:30:00 当前请求次数:5 前5秒合计请求次数:18
线程:15 时间:2021-12-23 23:30:00 ===============限流了,前5秒合计请求次数:18
线程:15 时间:2021-12-23 23:30:01 当前请求次数:3 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:01 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:02 当前请求次数:1 前5秒合计请求次数:14
线程:15 时间:2021-12-23 23:30:03 当前请求次数:5 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:03 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:04 当前请求次数:2 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:04 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:05 当前请求次数:1 前5秒合计请求次数:12
线程:15 时间:2021-12-23 23:30:06 当前请求次数:2 前5秒合计请求次数:11
线程:15 时间:2021-12-23 23:30:07 当前请求次数:1 前5秒合计请求次数:11
线程:15 时间:2021-12-23 23:30:08 当前请求次数:3 前5秒合计请求次数:9
线程:15 时间:2021-12-23 23:30:09 当前请求次数:5 前5秒合计请求次数:12
线程:15 时间:2021-12-23 23:30:10 当前请求次数:5 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:10 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:11 当前请求次数:3 前5秒合计请求次数:17
线程:15 时间:2021-12-23 23:30:11 ===============限流了,前5秒合计请求次数:17
线程:15 时间:2021-12-23 23:30:12 当前请求次数:3 前5秒合计请求次数:19
线程:15 时间:2021-12-23 23:30:12 ===============限流了,前5秒合计请求次数:19
线程:15 时间:2021-12-23 23:30:13 当前请求次数:1 前5秒合计请求次数:17
线程:15 时间:2021-12-23 23:30:13 ===============限流了,前5秒合计请求次数:17
线程:15 时间:2021-12-23 23:30:14 当前请求次数:3 前5秒合计请求次数:15
线程:15 时间:2021-12-23 23:30:15 当前请求次数:5 前5秒合计请求次数:15
线程:15 时间:2021-12-23 23:30:16 当前请求次数:4 前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:16 ===============限流了,前5秒合计请求次数:16
线程:15 时间:2021-12-23 23:30:17 当前请求次数:2 前5秒合计请求次数:15
线程:15 时间:2021-12-23 23:30:18 当前请求次数:3 前5秒合计请求次数:17
线程:15 时间:2021-12-23 23:30:18 ===============限流了,前5秒合计请求次数:17
线程:12 时间:2021-12-23 23:30:19 当前请求次数:5 前5秒合计请求次数:19
线程:12 时间:2021-12-23 23:30:19 ===============限流了,前5秒合计请求次数:19
线程:12 时间:2021-12-23 23:30:20 当前请求次数:2 前5秒合计请求次数:16
线程:12 时间:2021-12-23 23:30:20 ===============限流了,前5秒合计请求次数:16
线程:12 时间:2021-12-23 23:30:21 当前请求次数:2 前5秒合计请求次数:14
线程:12 时间:2021-12-23 23:30:22 当前请求次数:4 前5秒合计请求次数:16
线程:12 时间:2021-12-23 23:30:22 ===============限流了,前5秒合计请求次数:16