前言
限流算法是在高并发、大流量请求的情况下，限制新的流量对系统的访问，以保证系统服务的安全性和稳定性。常见的限流算法包括计数器限流算法、滑动窗口限流算法、漏桶限流算法和令牌桶限流算法。下面将分别介绍这四种算法：
一、计数器限流算法（固定窗口限流算法）
定义：计数器限流算法是一种简单且直观的限流方法，它通过维护一个计数器变量来限制在特定时间间隔内的请求数量。具体实现是在一段时间间隔内（如50S）对请求进行计数，并将计数结果与设置的最大请求数进行比较。如果请求数超过了最大值，则进行限流处理。时间间隔结束时，计数器会被清零，重新开始计数。
- 优点：实现简单，直观易懂，设置明确的阈值，易于理解和配置。
- 缺点：存在窗口切换时的突增问题，即在时间窗口的临界点附近，如果请求数突然增加，可能会导致短时间内大量请求通过限流检查，从而对系统造成压力。
存在窗口切换时的突增问题
例如在40S~60S期间来了200个请求，导致20S内大量请求通过限流检查，给一个系统突然的峰值，而这个时间范围越小，峰值越高，就会导致系统的崩溃
简单实现：
import java.util.concurrent.atomic.AtomicInteger;
public class CounterRateLimiter {
private final AtomicInteger counter = new AtomicInteger(0);
private final long maxCount;
private final long intervalMillis;
private long lastResetTime;
public CounterRateLimiter(long maxCount, long intervalMillis) {
this.maxCount = maxCount;
this.intervalMillis = intervalMillis;
this.lastResetTime = System.currentTimeMillis();
}
public synchronized boolean tryAcquire() {
long currentTime = System.currentTimeMillis();
// 检查是否需要重置计数器
if (currentTime - lastResetTime >= intervalMillis) {
counter.set(0);
lastResetTime = currentTime;
}
// 检查计数器是否小于最大值
if (counter.get() < maxCount) {
counter.incrementAndGet();
return true;
}
return false;
}
public static void main(String[] args) throws InterruptedException {
CounterRateLimiter rateLimiter = new CounterRateLimiter(5, 1000); // 每秒最多5个请求
// 模拟请求
for (int i = 0; i < 20; i++) {
boolean allowed = rateLimiter.tryAcquire();
System.out.println("Request " + (i + 1) + ": " + (allowed ? "Allowed" : "Blocked"));
Thread.sleep(100); // 假设每个请求间隔200毫秒
}
}
}
二、滑动窗口限流算法
定义：滑动窗口限流算法本质上也是一种计数器，但它通过对时间窗口的滑动来管理请求的计数，从而实现对请求速率的限制。与固定窗口算法相比，滑动窗口算法将时间窗口分为多个小周期，每个小周期都有自己的计数器。随着时间的滑动，过期的小周期数据被删除，这样可以更精确地控制流量。
- 优点：能够更精确地控制流量，尤其是在处理短时间内突发的高请求量时，通过动态调整时间窗口的起始点和结束点，可以有效地平滑流量波动，避免系统因瞬间高负载而崩溃。
- 缺点：实现相对复杂，需要维护多个时间窗口的计数器，并且需要处理时间窗口的滑动逻辑。
在当前窗口结束的位置有100个请求，时间超过了50S后，又来100个请求，此时由于窗口向前滑动了一小格，所以此时窗口内的请求是100，如果此时有请求进来，则大于100，那么他会把请求都会拒绝，直到窗口滑出50S的时间节点
简单实现：
public class SlidingWindowRateLimiter {
private final int maxCount;
private final long windowMillis;
private final Queue<Long> timestamps = new LinkedList<>();
public SlidingWindowRateLimiter(int maxCount, long windowMillis) {
this.maxCount = maxCount;
this.windowMillis = windowMillis;
}
public synchronized boolean tryAcquire() {
long currentTime = System.currentTimeMillis();
// 移除过期的时间戳
while (!timestamps.isEmpty() && (currentTime - timestamps.peek() > windowMillis)) {
timestamps.poll();
}
// 检查队列中的时间戳数量是否小于最大值
if (timestamps.size() < maxCount) {
timestamps.offer(currentTime);
return true;
}
return false;
}
public static void main(String[] args) throws InterruptedException {
SlidingWindowRateLimiter rateLimiter = new SlidingWindowRateLimiter(5, 1000); // 每秒最多5个请求，滑动窗口1秒
Thread.sleep(800); // 假设每个请求间隔200毫秒
for (int i = 0; i < 5; i++) {
boolean allowed = rateLimiter.tryAcquire();
System.out.println("Request " + (i + 1) + ": " + (allowed ? "Allowed" : "Blocked"));
}
// 模拟请求
for (int i = 0; i < 20; i++) {
boolean allowed = rateLimiter.tryAcquire();
System.out.println("Request " + (i + 1) + ": " + (allowed ? "Allowed" : "Blocked"));
Thread.sleep(200); // 假设每个请求间隔200毫秒
}
}
}
三、 漏桶限流算法
定义：漏桶限流算法通过一个带有恒定流出速度的漏桶来模拟数据流量的处理过程。无论数据流入的速度如何变化，漏桶的流出速度始终保持不变。当请求到达时，它们被放入漏桶中。如果漏桶未满，请求将被接受并排队等待处理；如果漏桶已满，则根据算法策略处理（如丢弃请求）。
- 优点：能够提供一个稳定的流量输出，有效避免突发流量对系统的冲击，保证所有请求都按照相同的速率被处理，从而保证公平性。
- 缺点：漏出速率是固定的，无法应对需要突发传输的场景。在网络未发生拥塞时，漏桶算法可能无法充分利用网络资源。
简单实现：
public class LeakyBucket {
private final long capacity; // 桶的容量
private final long flowRate; // 桶的漏水速率，单位时间流出的水量
private long currentWater = 0; // 当前桶中的水量
private long lastLeakTime = System.currentTimeMillis(); // 上次漏水时间
private final ReentrantLock lock = new ReentrantLock(); // 线程锁
public LeakyBucket(long capacity, long flowRate) {
this.capacity = capacity;
this.flowRate = flowRate;
}
// 尝试加水，返回是否成功
public boolean tryAcquire() {
lock.lock();
try {
leak(); // 先让桶里的水漏掉一些
if (currentWater < capacity) { // 判断加水后是否会溢出
currentWater++; // 加水
return true;
} else {
return false; // 水溢出，加水失败
}
} finally {
lock.unlock();
}
}
// 桶中的水按速率流出
private void leak() {
long currentTime = System.currentTimeMillis();
long delta = currentTime - lastLeakTime; // 计算上次漏水到现在的时间
long leakedAmount = delta * flowRate / 1000; // 计算这段时间应该流出的水量
if (leakedAmount > 0) {
currentWater -= leakedAmount;
currentWater = Math.max(0, currentWater); // 防止水量为负
lastLeakTime = currentTime; // 更新漏水时间
}
}
public static void main(String[] args) throws InterruptedException {
LeakyBucket bucket = new LeakyBucket(10, 2); // 容量为10，每秒漏水速率为2（500ms 一滴）
// 模拟请求
for (int i = 0; i < 30; i++) {
System.out.println("Request " + (i + 1) + ": " + (bucket.tryAcquire() ? "Allowed" : "Blocked"));
Thread.sleep(100); // 每100毫秒发起一次请求
}
}
}
四、令牌桶限流算法
令牌桶限流算法使用一个固定容量的桶来存放令牌，这些令牌以恒定的速率被添加到桶中。当请求需要发送到网络时，它们会消耗桶中的令牌。如果桶中有足够的令牌，请求将被允许发送；否则，请求可能需要等待或被丢弃。
- 优点：可以处理突发流量的问题。只要桶中有足够的令牌，就可以以峰值速率发送流量。通过调整令牌桶的容量和令牌生成速率，可以灵活地控制流量的平滑程度和突发程度。
- 缺点：实现相对复杂，需要维护令牌桶的状态和令牌生成逻辑。
简单实现
public class TokenBucket {
private final long capacity; // 桶的容量
private final long fillRate; // 桶的填充速率，单位时间填充的令牌数
private long tokens = 0; // 当前桶中的令牌数
private long lastFillTime = System.currentTimeMillis(); // 上次填充时间
private final ReentrantLock lock = new ReentrantLock(); // 线程锁
public TokenBucket(long capacity, long fillRate) {
this.capacity = capacity;
this.fillRate = fillRate;
}
// 尝试获取令牌，返回是否成功
public boolean tryAcquire() {
lock.lock();
try {
fill(); // 先让桶里的令牌增加一些
if (tokens > 0) {
tokens--; // 消耗一个令牌
return true;
} else {
return false; // 令牌不足，获取失败
}
} finally {
lock.unlock();
}
}
// 桶中的令牌按速率填充
private void fill() {
long currentTime = System.currentTimeMillis();
long delta = currentTime - lastFillTime; // 计算上次填充到现在的时间
long filledTokens = delta * fillRate / 1000; // 计算这段时间应该填充的令牌数
if (filledTokens > 0) {
tokens = Math.min(capacity, tokens + filledTokens); // 防止令牌数超过容量
lastFillTime = currentTime; // 更新填充时间
}
}
public static void main(String[] args) throws InterruptedException {
TokenBucket bucket = new TokenBucket(10, 5); // 容量为10，每秒填充速率为5
TimeUnit.SECONDS.sleep(1);
// 模拟请求
for (int i = 0; i < 20; i++) {
System.out.println("Request " + (i + 1) + ": " + bucket.tryAcquire());
Thread.sleep(100); // 每200毫秒发起一次请求
}
}
}
总结
四种常用限流算法在分布式系统和网络管理中具有重要意义，它们分别是计数器算法（固定窗口算法）、滑动窗口算法、漏桶算法和令牌桶算法。这些算法通过不同的机制来控制访问频率和数据传输速率，以保护系统免受突发流量的冲击，确保服务的稳定性和可用性。
扫一扫
1200
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
