服务限流

一。限流概念
高并发系统中有三把利器用来保护系统:缓存/降级/限流。
限流的目的是为了保护系统不被大量请求冲跨,通过限制请求的速度和次数来保护系统。在电商的秒杀活动中,限流是必不可少的一个环节

二。实现方法
限流的方式也有很多种,可以在Nginx层面限流,也可以在应用当中限流,比如在API网关中。

三。限流算法

有三种
1计数器
计算单元时间内访问接口的次数,如果达到次数,则限制访问
2令牌桶
令牌桶算法是一个存放固定容量令牌的桶,按照固定速率往桶里 添加令牌。可以控制流量也可以控制并发量
假如我们想要控制API网关的并发量最高为1000,可以创建一个令牌桶,一固定的速度往桶里添加令牌,超出1000则不添加。
当一个请求到达之后就从桶里获取一个令牌,如果能获得令牌就可以继续往下请求,获取不到说明令牌不够,并发量达到了最高,请求就被拦截
3漏桶
漏桶是一个固定容量的桶,按照固定的速率流出,可以以任意的速率流入到漏桶中,超出了漏桶的容量就被丢弃,
总容量是不变的。但是输出的速率是固定的,无论你上面的水流入的多快,下面的出口只有这么大,就像水坝开闸放水一样

具体请看下文!!

Hystrix是一个用于构建弹性和容错的开源Java库。在分布式系统中,不同的服务可能会因为负荷过大或者其他原因导致请求超时或失败,而Hystrix可以通过实现服务限流来解决这个问题。 服务限流是指在高负载情况下对服务的请求进行限制,以保证系统的稳定性和可靠性。Hystrix可以根据配置的规则来控制每个服务的并发请求数量,一旦达到限制的阈值,Hystrix会自动开启断路器,阻止新的请求进入该服务。这样可以避免服务的过载,减少对系统资源的消耗。 Hystrix的服务限流还提供了对服务的降级功能。当服务无法正常工作或者超时时,Hystrix会使用预先定义好的备选方案去返回结果。这样可以避免服务的不可用对整个系统造成影响,保证了系统的稳定性。 使用Hystrix进行服务限流需要经过以下步骤。首先,需要在服务的代码中添加Hystrix相关的注解或者配置。然后,需要定义限流的规则,包括并发请求的阈值、超时时间等。接下来,需要对服务的降级方案进行配置,在服务不可用时返回备选结果。最后,需要对Hystrix的监控进行配置,以便及时发现服务的异常情况。 总之,Hystrix的服务限流功能可以帮助我们解决分布式系统中请求超时或者失败的问题,提高系统的弹性和容错能力。通过设置合适的限流规则,我们可以有效地控制服务的并发请求数量,避免服务的过载。同时,通过降级方案的配置,我们可以保证在服务不可用时系统的稳定性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值