基于Redis限流方案(并发数控制)

最近项目上需要做一个针对某用户下的某产品的限流需求,要求可配置,即时成效,也就是说多个用户下多个产品要有不同的并发控制。

由于之前并没有这方面的经验,经过一番查阅资料,发现令牌桶算法可以非常有效的控制流量,而且又有谷歌的guava提供的基于令牌桶算法的实现类RateLimiter(令牌桶算法这里不做描述,需要了解可以自行Google),但是由于不能满足项目上的需求,经过内部讨论并没有使用。

最终方案

最终采用方式也非常简单粗暴——计数器模式;原理非常简单,用户进入时,计数器+1,退出后-1,但是要做好线程同步,否者计数器很有可能变成负数。

这里的计时器采用Redis作为缓存,根据用户+产品作为key,缓存当前并发量,大致代码如下:

@Autowired
private RedisUtils redisUtils;

@Test
public void contextLoads() {

    String key = "1000_0001";
    Object object = new Object();
    for (int i = 0; i < 7; i++) {     // 请求数 7
        new Thread(new Runnable() {
            @Override
            public void run() {
                synchronized (object) {
                    int current = Integer.valueOf(redisUtils.get(key));    //初始值 0
                    if (current < 5) {   // 限流5
                        redisUtils.increment(key);     // 缓存并发数 +1
                    } else {
                        System.out.println("并发超过5,请稍后再试");    // 熔断
                        return;
                    }
                }
                try {
                    Thread.sleep(3000);     // 业务逻辑
                    redisUtils.decrement(key);      // 释放并发数 -1
                    System.out.println("当前并发" + redisUtils.get(key));
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }
            }
        }).start();
    }

    while (true) {

    }
}

运行结果:

可以看到,想要的效果已经实现了,接下来看下Redis中的并发量:

多并发测试

将此方案带到业务代码中,并将最大并发量配置成5,使用Jmeter开启10个线程,测试一下结果

后话

经过大量测试后,发现此方式能有效的控制并发,但是并不意味着这是最好的处理方式,由于操作缓存需要用到线程同步,可能性能方面会大打折扣,而且若出现网络或其他故障,极有可能导致缓存中的并发量不能减掉。

本人还将持续更新此博客,记录后续可能遇到的问题或一些可优化的地方。

本博客内容均为原创,转载请注明出处。

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Go语言基于Redis实现的分布式限流是一种常见的解决方案,可以有效地控制系统的并发访问流量,防止系统被过多的请求压垮。 首先,分布式限流需要使用Redis的计器功能。通过对每个请求进行计,并设置一个时间窗口,可以统计在该窗口内的请求次。当请求次超过某个阈值时,可以拒绝该请求或者进行降级处理。 其次,为了保证分布式限流的准确性和高效性,需要使用Redis的原子操作,例如INCR、EXPIRE等。INCR命令可以原子地将计器的值加1,并返回加1后的结果,而EXPIRE命令可以设置计器的过期时间。通过这些原子操作,可以在多个节点之间共享计状态,并且保证计器的同步和高效性。 此外,为了保证系统的稳定性和可靠性,需要考虑设置适当的限流阈值和时间窗口大小。根据系统的负载情况和性能需求,可以调整这些参,实现对系统流量的合理控制。 在实际应用中,可以使用Go语言的Redis客户端连接Redis服务器,并通过相关命令操作计器。同时,还可以结合其他的组件和技术,如分布式锁、消息队列等,增强系统的稳定性和可扩展性。 总之,Go语言基于Redis实现的分布式限流是一种可行且有效的解决方案,可以帮助我们应对大流量的并发请求,保证系统的稳定运行。通过合理设定限流和灵活运用Redis的功能,我们可以实现流量控制、降级和保护系统免受恶意请求的攻击。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值