http 网关 熔断和限流

公司内部很多rpc调用都需要经过gateway 是为了保护后端 这里有两个常见的操作 一个是熔断一个是限流。gateway还能实现很多比如服务的黑名单白名单 防止攻击 灰度控制等等。这里主要就是介绍熔断和限流。

什么是熔断? 其实熔断这个词不仅仅是在计算机领域会出现,在很多地方都有熔断的概念,熔断是为了保护后端,比如说我们当前有两个服务一个是qq群音频通话服务 一个是qq群服务,这两个服务都是由qq本身这个大服务来调用的,当我们想要进行qq群聊天的时候 就会调用qq群相关服务,当我们先要在群里进行音频通话的时候就由qq群这个微服务来调用qq音频通话这个微服务,但是当我们的qq音频通话服务挂掉之后,qq群微服务就不能够调用他了,这样导致qq群这个服务也积攒了大量未处理的请求导致这个服务也挂掉了,甚至一连串影响下去整个服务都挂掉,这时候熔断机制就要上场了,熔断机制就和我们家里的保险丝一样,不过这里断掉的是某一个特定服务器的调用,一般来说网关里都有熔断器。当熔断器开启之后,网关就把某个调用命令给过滤掉了,调用指令走不到后端服务,熔断器会不断的进行计算操作,判断是否需要打开熔断器。熔断器一般来说有三种状态

打开/关闭/半开放

初始的时候熔断器是关闭的,一旦请求失败会触发熔断检测,熔断检测就是进行对应的计算来决定是否打开熔断器,当熔断器打开的时候会熔断所有和此熔断器相关联的请求,直到冷却时间结束 冷却时间是当你的熔断器被打开的时候,冷却时间就开始计时,当冷却时间到了之后会默认进入半开放状态,就是说我先试试看看能不能恢复正常工作。在半开放状态时每隔一段周期熔断器都会放请求出去,熔断器中有一个int类型的halfopensuccess当熔断器在半开放状态并且进行请求成功的时候这个数值会进行加1。默认当这个值变为2的时候也就是请求两次之后熔断器就会关闭。目前在做的是单个指令在10s内请求总量大于3000就会进行熔断检测。

 

第二个是限流 限流更加容易理解,通俗的来说一个后端server会对很多client提供服务,但是如果说某一个client突然流量飙升,就必须要对他进行限流,如果不限流还是可能将服务器打挂所以就要限制这个client的流量。目前做的事user+cmd维度来进行限流,redis里边存放的是每个cmd限流参数。默认情况下每个user+cmd被限流的粒度是10ms。

 

当一个请求来到网关之后请求会通过路由,然后获得对应的请求id,cmd等等信息,然后进行熔断检测,看当前对应的cmd是否开启了熔断器,然后进行登录检查,通过之后进入黑名单,限流检测等等  熔断统计的是一个cmd下的调用错误率,限流统计的是用户+cmd维度下的流量是否超过了阈值,之后请求才会进入到我们的后端调用接口。

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页