【本人秃顶程序员】接口限流算法之漏桶算法&令牌桶算法

最新推荐文章于 2023-10-30 10:39:57 发布
最新推荐文章于 2023-10-30 10:39:57 发布
阅读量263 收藏
点赞数
分类专栏： Java 文章标签： 程序人生 编程语言 架构 Java 后端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44175121/article/details/85788744
版权
本文介绍了在高并发系统中保护系统稳定性的限流策略，重点讲解了两种常见的限流算法——漏桶算法和令牌桶算法。漏桶算法以恒定速率出水，超出部分丢弃；令牌桶算法则允许一定程度的突发传输，通过令牌控制请求速率。Google的RateLimiter实现使用的是令牌桶算法，文中还展示了其用法和预消费能力的概念。
摘要由CSDN通过智能技术生成

←←←←←←←←←←←← 快，点关注！

工作中对外提供的API 接口设计都要考虑限流，如果不考虑限流，会成系统的连锁反应，轻者响应缓慢，重者系统宕机，整个业务线崩溃，如何应对这种情况呢，我们可以对请求进行引流或者直接拒绝等操作，保持系统的可用性和稳定性，防止因流量暴增而导致的系统运行缓慢或宕机。

在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流

缓存：缓存的目的是提升系统访问速度和增大系统处理容量

降级：降级是当服务器压力剧增的情况下，根据当前业务情况及流量对一些服务和页面有策略的降级，以此释放服务器资源以保证核心任务的正常运行

限流：限流的目的是通过对并发访问/请求进行限速，或者对一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理

限流算法

常用的限流算法有令牌桶和和漏桶，而Google开源项目Guava中的RateLimiter使用的就是令牌桶控制算法。

漏桶算法

把请求比作是水，水来了都先放进桶里，并以限定的速度出水，当水来得过猛而出水不够快时就会导致水直接溢出，即拒绝服务。
在这里插入图片描述
漏斗有一个进水口 和 一个出水口，出水口以一定速率出水，并

最低0.47元/天 解锁文章
本人秃顶程序员
关注
专栏目录
RateLimiters：.NET中的令牌桶和泄漏令牌桶实现
03-02
RateLimiters .NET中的和实现。 这些策略可用于对各种Web，后端或API调用方案中的限制请求进行评分。 此项目是@sudohippie在此之后的.NET克隆。 建置状态 该库使用服务不断集成。
令牌桶限流-java实现
chenyl
10-26 1326
令牌桶的容量是c（个），令牌以速度r（个/秒）均匀的放入桐中，上个请求的时间为at（时间戳），上个请求后剩余的令牌数目为w（个），现在有个请求b对象进来了，现在请求的时间bt=now()，伪代码如上图，其中wb代表从at到bt时间段内产生的令牌数，产生的令牌数加上上次剩余的令牌数是不能大于桶容量的 Java实现代码： import java.util.HashMap; import java.util.Map; import java.util.concurrent.TimeUnit; public c.
接口限流算法：漏桶算法&令牌桶算法
weixin_33835103的博客
08-11 652
工作中对外提供的API 接口设计都要考虑限流，如果不考虑限流，会成系统的连锁反应，轻者响应缓慢，重者系统宕机，整个业务线崩溃，如何应对这种情况呢，我们可以对请求进行引流或者直接拒绝等操作，保持系统的可用性和稳定性，防止因流量暴增而导致的系统运行缓慢或宕机。 在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流 缓存：缓存的目的是提升系统访问速度和增大系统处理容量 降级：降级是当服务器压力剧增...
令牌桶算法限流
weixin_33819479的博客
07-27 775
限流 限流是对某一时间窗口内的请求数进行限制，保持系统的可用性和稳定性，防止因流量暴增而导致的系统运行缓慢或宕机。常用的限流算法有令牌桶和和漏桶，而Google开源项目Guava中的RateLimiter使用的就是令牌桶控制算法。 在开发高并发系统时有三把利器用来保护系统：缓存、降级和限流 缓存：缓存的目的是提升系统访问速度和增大系统处理容量 降级：降级是当服务器压力剧增的情况下，根据...
c#常见限流排队业务设计
dotNET跨平台
09-27 261
在 C# 中实现限流和排队业务可以使用以下几种方式：令牌桶算法：令牌桶算法是一种流量控制算法，可以用来限制请求的速率。在令牌桶算法中，桶中存放一定数量的令牌，每个令牌代表一个请求的许可。每当有一个请求到来时，就从桶中取出一个令牌，如果桶中没有令牌，则拒绝请求。可以使用 C# 中的 Timer 类来实现令牌桶算法。漏桶算法：漏桶算法是一种流量控制算法，可以用来限制请求的速率。在漏桶算法中，请求被当做...
“SCAFFOLD:联邦学习的随机控制平均”PPT核心算法解析
08-03
“SCAFFOLD:联邦学习的随机控制平均”PPT核心算法解析 SCAFFOLD Stochastic Controlled Averaging for Federated Learning“SCAFFOLD:联邦学习的随机控制平均”论文解读PPT形式
夏令营~预推免~保研通用资料汇总整合（计算机专业课复习汇总）（算法分析与设计+计算机网络+操作系统+计算机组成原理+数据结构）
最新发布
09-28
夏令营~预推免~保研通用资料汇总整合（计算机专业课复习汇总）（算法分析与设计+计算机网络+操作系统+计算机组成原理+数据结构）
java8集合源码分析-The-Road-To-Bald-Man:Java技能加点，秃顶之路
06-04
接口 容器 异常 泛型 反射 注解 I/O NIO 多线程和并发 并发编程基础 线程池 锁 并发容器 原子类 JUC并发工具类 网络编程 新特性 JVM 类加载机制 字节码执行机制 JVM内存模型 GC垃圾回收 JVM性能监控与故障定位 JVM...
玉米秃顶如何防？ .docx
02-09
### 玉米秃顶的防治方法 #### 一、玉米秃顶现象及其原因 **玉米秃顶**指的是玉米果穗顶端籽粒不饱满或不结实的现象，这不仅影响了玉米的外观，更重要的是严重影响了玉米的产量。玉米秃顶的原因多样，包括但不限于...
玉米秃顶原因有哪些？如何防治？ .docx
02-09
### 玉米秃顶的原因及防治方法 #### 一、玉米秃顶的原因 玉米秃顶是指玉米在成熟过程中，果穗顶端出现籽粒稀少甚至无籽粒的现象，这直接影响到玉米的产量和品质。根据给定文档，玉米秃顶的主要原因包括以下几个...
TokenBucket:从https移植的令牌桶实现
05-20
介绍 该库提供了令牌桶算法的实现，该算法对于提供对一部分代码的速率限制访问很有用。 提供的实现是“泄漏存储桶”的实现，即存储桶具有有限的容量，并且超出此容量的任何添加令牌都将“溢出”到存储桶之外，并永远丢失。 在此实现中，用于重新填充存储桶的规则封装在提供的IRefillStrategy实例中。 在尝试消耗任何令牌之前，将咨询重新填充策略以查看应向存储桶中添加多少令牌 我们使用进行构建验证。 也可以看看： 这是的原始工作的C＃移植。 用法 使用令牌桶非常容易，并且可以通过一个示例很好地说明。 假设您有一段代码轮询一个网站，并且您只希望每秒访问一次该网站： // Create a token bucket with a capacity of 1 token that refills at a fixed interval of 1 token/sec. ITokenBucket
令牌桶算法（token bucket）
10-11
详细介绍了令牌桶算法及其功能，可用于进行流量控制。
限流算法-令牌桶、漏桶算法之java实现
wr_java的博客
05-23 2390
介绍 令牌桶算法： 一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌；如下： a.假设是2r/s，则每500毫秒添加n个令牌； b.桶中最多存放x个令牌，桶满时，再添加会拒绝； c.请求去获取令牌，如果令牌足够，允许通过；如果令牌不足，拒绝请求或放入缓冲区等待； 漏桶算法： 漏桶容量固定，按照固定速率流出水滴；如果桶是空的，不用流，如果桶满了，再流入水滴，则拒绝服务。 区别 令牌桶控制的是平均流入速率，速率可高可低，允许有突发请求；漏桶控制的是恒定的流出速率，从而平滑流入速率。 java实现
令牌桶C语言代码实现
colortztzztzt的博客
08-23 335
cps 每秒钟传输字节数burst 令牌桶内最多能传输的字节数，token的最大值token 令牌的个数之前是一个令牌(token)对应一个字节，现在将一个token变为一个cps，cps是解码速率，每攒到一个令牌，就token+=cps如果需要不同的速率，使用不同的令牌桶，将令牌桶存储在一个数组中。
高并发系统限流-漏桶算法和令牌桶算法
weixin_30426065的博客
06-01 449
高并发系统限流-漏桶算法和令牌桶算法 参考： http://www.cnblogs.com/LBSer/p/4083131.html https://blog.csdn.net/scorpio3k/article/details/53103239 https://www.cnblogs.com/clds/p/5850070.html http://jinnianshilongni...
常见限流方案总结
gaoganghua的博客
10-30 853
现在很多网站都会添加反爬策略防止暴力破解或不间断爬取，同时为了不让系统因为短时间内大量并发而崩溃，都会添加一定的限流措施。
04.手写服务限流算法: 令牌桶、漏桶、滑动窗口算法
陌陌龙的博客
06-21 1593
04.手写服务限流算法: 令牌桶、漏桶、滑动窗口算法
ASP.NET Core中使用令牌桶限流
weixin_48967543的博客
04-15 242
在限流时一般会限制每秒或每分钟的请求数，简单点一般会采用计数器算法，这种算法实现相对简单，也很高效，但是无法应对瞬时的突发流量。 比如限流每秒100次请求，绝大多数的时间里都不会超过这个数，但是偶尔某一秒钟会达到120次请求，接着很快又会恢复正常，假设这种突发的流量不会对系统稳定性带来实质性的影响，则可以在一定程度上允许这种瞬时的突发流量，从而为用户带来更好的可用性体验。这就是令牌桶算法的用武之地。 该算法的基本原理是：有一个令牌桶，容量是X，每Y单位时间会向桶中放入Z个令牌，如果桶中的令牌数超过X，则丢.
API接口防刷
奇葩也是花
05-06 1893
接口防刷通过Redis进行限制。 实现思路： 1、用户在访问接口的时候，获取用户的ip $request -> ip(); 2、把ip作为key，访问次数作为对应的值，每次访问接口累加访问次数即可。 【注意一个问题：key的有效期是1分钟，必须是第一次写入的时候 指定1分钟的有效期】 3、下一次访问的时候，判断是否超过100次，如果超过的，吧ip加入黑名单中半个小时。 【用的数据...
动态规划,最短路径Dijkstra算法matlab
09-05
动态规划是一种解决多阶段决策问题的优化方法，它通过将问题分解为一系列子问题，并利用子问题的最优解来求解原问题的最优解。最短路径问题是一种常见的动态规划问题，其中Dijkstra算法是一种常用的解决最短路径问题的算法。 Dijkstra算法是一种贪心算法，用于计算图中两个节点之间的最短路径。它的基本思想是从起点开始，逐步扩展到所有其他节点，每次选择当前距离起点最近的节点，并更新与该节点相邻的节点的最短路径。该算法使用一个距离数组来记录起点到每个节点的最短路径长度，以及一个访问数组来记录已经确定最短路径的节点。通过不断选择最短路径的节点，并更新相邻节点的最短路径，直到到达目标节点或者遍历完所有节点，从而得到最短路径的结果。 关于最短路径Dijkstra算法在Matlab中的实现，有一些相关的资源可供参考。提供了一个博客文章，其中包含了Dijkstra算法及其在Matlab中的实现。中提供了一个基于Dijkstra算法的Matlab代码，用于解决图像地图最短路径求解问题。此外，也提供了一个通俗易懂的解释和理解Dijkstra算法求解最短路径的知乎链接。这些资源可以帮助你更好地理解和应用Dijkstra算法在Matlab中求解最短路径问题。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [最短路径 Dijkstra算法的Matlab代码实现](https://blog.csdn.net/lishan132/article/details/108527271)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [基于dijkstra 算法实现图像地图最短路径求解附matlab代码.zip](https://download.csdn.net/download/qq_59747472/85639654)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值