分布式限流学不动了?我教你

12 篇文章 0 订阅
9 篇文章 0 订阅

在这里插入图片描述

一、限流

在高并发系统中,需要使用多种方式来保护系统,例如:

  • 缓存,目的是提升系统访问速度,增大系统处理能力。
  • 降级,当服务器压力剧增的时候,根据实际业务情况,对某些服务或者页面有策略的不处理或者简单处理,从而释放服务器资源,以保证核心业务正常运行,通过牺牲局部利益来保证全局利益。
  • 限流,目的是通过对请求进行限速来保护系统,如果达到限速值就可以采取一定的手段,例如拒绝服务、排队、等待。

所以,限流是保证系统高可用的重要手段。

二、分布式限流

在单机系统中,限流逻辑直接放在服务接口中即可,Guava RateLimiter 可以方便的实现。

在这里插入图片描述
但在分布式系统中,一个服务可能启动多个实例,需要对服务整体进行限流,就不能放在每个实例中进行限流判断了,需要统一管理,例如放到API网关中:
在这里插入图片描述

分布式限流最关键的是要将限流服务做成原子化,常见的方案是 Redis+Lua 和 Nginx+Lua。

三、Redis + Lua 实现方式

在这里插入图片描述
Lua 代码:

-- 获取调用脚本时传入的第一个key值(用作限流的 key)
local key = KEYS[1]
-- 获取调用脚本时传入的第一个参数值(限流大小)
local limit = tonumber(ARGV[1])

-- 获取当前流量大小
local curentLimit = tonumber(redis.call('get', key) or "0")

-- 是否超出限流
if curentLimit + 1 > limit then
    -- 返回(拒绝)
    return 0
else
    -- 没有超出 value + 1
    redis.call("INCRBY", key, 1)
    -- 设置过期时间
    redis.call("EXPIRE", key, 2)
    -- 返回(放行)
    return 1
end

Redis 是单线程,如上的限流逻辑是在 Lua 脚本中,是线程安全的。

Java 调用示例代码:

public boolean limit() throws Exception {
    String luaScript = Files.toString(
            new File("limit.lua")
            , Charset.defaultCharset());
    Jedis jedis = new Jedis(ip, port);
    
    String key = "ip:" 
            + System.currentTimeMillis()/1000;
    String limit = "3";
    ArrayList<String> scriptKeys = 
            Lists.newArrayList(key);
    ArrayList<String> scriptArgs = 
            Lists.newArrayList(limit);
    
    return (Long)jedis.eval(
            luaScript, 
            scriptKeys, 
            scriptArgs) == 1;
}

点个关注,不迷路~
在这里插入图片描述

原文链接:https://cloud.tencent.com/developer/article/1399873

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值