6、RPC框架解析:gRPC限流

6.1、简介

​ 在流量突增的情况下,为了保证服务的可用性,能做些什么呢?例如活动运营平台,平时流量不是很多,3台机器就可以解决。但是突然上线了一个奖励非常大的奖品,3台服务均到达高负载的状态,直接造成雪崩效应,应对这种突发流量,为了保证服务的可用性,引入一个新的概念,服务限流。

6.2、限流算法

​ 什么是服务限流?其实就是字面意思,限流请求的流量,达到一个快速拒绝的效果,保证服务的可用性,尽管会有部分用户请求失败,但是比全部用户不能访问,还是更友好一些。

限流为了限制单位时间内最大的处理速度。保证在服务不被压垮的情况下,以最大速率处理请求。以下场景可能会触发限流

  • 拒绝服务,感知流量暴增的情况下,限制一些高频请求的客户端。
  • 延时处理,缓冲队列中积压了大量的请求,并且已经达到队列上限。此时应该做限流处理。
  • 服务降级,cpu等资源负载,此时应该触发限流。

主流的限流算法为以下几种:

  • 计数器
  • 队列
  • 漏斗算法
  • 令牌通算法

关于更详细的介绍请看之前关于弹性服务设计的总结:分布式之弹性:服务限流

6.3、实践

使用我们的demo工程,

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值