如何实现限流(java)

限流是一种服务降级策略,用于保护系统免受过多流量的影响。本文介绍了计数器、滑动窗口、Leaky Bucket、Token Bucket四种限流算法,并通过Spring Cloud Gateway和Sentinel展示了在Java中实现限流的实践。
摘要由CSDN通过智能技术生成

自我理解
服务降级的一种,限制系统输入和输出,达到保护系统的作用。方法【1.计数器(控制单位时间的请求数量,缺点两个单位时间内没有监控,处于监控漏洞)2.滑动窗口(把单位时间等分成若干份,计数器的改进)3.Leaky Bucket 漏桶(通过控制输出速度达到限流的目的)4.Token Bucket 令牌桶(固定容积的容器,以固定速度填充token,每次访问移除token,没有token访问失败)5,spring cloud gateway 默认使用 redis 进行限流,6.sentinel通过配置来控制每个 url 的流量】

什么是限流
限流可以认为服务降级的一种,限流就是限制系统的输入和输出流量已达到保护系统的目的。一般来说系统的吞吐量是可以被测算的,为了保证系统的稳定运行,一旦达到的需要限制的阈值,就需要限制流量并采取一些措施以完成限制流量的目的。比如:延迟处理,拒绝处理,或者部分拒绝处理等等。
限流方法
计数器
实现方式
控制单位时间内的请求数量

劣势
假设在 00:01 时发生一个请求,在 00:01-00:58 之间不在发送请求,在 00:59 时发送剩下的所有请求 n-1 (n 为限流请求数量),在下一分钟的 00:01 发送 n 个请求,这样在 2 秒钟内请求到达了 2n - 1 个.
设每分钟请求数量为 60 个,每秒可以处理 1 个请求,用户在 00:59 发送 60 个请求,在 01:00 发送 60 个请求 此时 2 秒钟有 120 个请求(每秒 60 个请求),远远大于了每秒钟处理数量的阈值
滑动窗口
实现方式
滑动窗口是对计数器方式的改进, 增加一个时间粒度的度量单位
把一分钟分成若干等分(6 份,每份 10 秒), 在每一份上设置独立计数器,在 00:00-00:09 之间发生请求计数器累加 1.当等分数量越大限流统计就越详细
package com.example.demo1.service;

import java.util.Iterator;
import java.util.Random;
import java.util.concurrent.ConcurrentLinkedQueue;
import java.util.stream.IntStream;

public class TimeWindow {
private ConcurrentLinkedQueue queue = new ConcurrentLinkedQueue();

/**
 * 间隔秒数
 */
private int seconds;

/**
 * 最大限流
 */
private int max;

public TimeWindow(int max, int seconds) {
    th
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值