服务限流降级

https://segmentfault.com/a/1190000015967922

高并发的线上服务， 有时候面对突发流量， 比如流量突然激增，服务扛不住了，类似这种场景，需要有一个防御措施， 常用的有降级和限流

降级：比如一些热点事件， 当前服务器压力很大， 可以置顶一些降级策略，最简单的比如，随机丢弃一定的用户不走推荐逻辑； 或者用一些低资源消耗的计算逻辑替换线上的逻辑等等， 主要是策略导向的； 被降级的用户请求，可能推荐结果不是那么的最优， 但可尽量的保证正常的访问。 同等的资源下， 服务更多的用户， 以适当的牺牲用户体验为代价

限流： 服务的抗压能力是一定的，在请求量突然增大， 可通过限流策略，来丢弃部分请求，保证服务的稳定。比如服务扛压是1w,  当前有4个上游在同时调用我们的服务，其中有一个服务优先级特别高，需要优先保证正常访问，此时，需要根据一定的策略来限制当前的流量不超过1w，常用的限流策略有令牌桶和漏桶

令牌桶：按照固定的速度， 给令牌桶里面放令牌， 每个服务发请求过来的时候， 需要去桶里面拿对应的令牌，如果没有令牌了，则丢弃本次请求； 有点像混合型共厂，即生产电话，也生产电脑。给的原料多了就快一些，少了就慢一些，都能跑起来，但是再优秀的机器，也有一个上限， 还是不能太多了，如果真的太多了，就要限制速度，到底是生产电脑还是手机呢？就早一个桶，两边分别去拿对应的速率生产就好了

漏桶：按照固定的速度从桶里释放请求，新来的请求放进桶里，如果桶满了，就直接丢弃；有点像工厂里面的生产机器，按照固定的速度生产螺丝钉， 如果前面堆的原料太多，已经溢出了，新原料就放不进来了，而流水线的产出速度稳定不变，慢悠悠的吐出就可以了，没什么压力