架构-7.高可用架构之接口级故障

架构-1:高性能架构之读写分离和分表分库
架构-2:高性能架构之NoSQL和缓存
架构-3:高性能架构之单机高性能和负载均衡
架构-4:高可用架构之存储高可用
架构-5:高可用架构之Paxos和Raft
架构-6:高可用架构之一致性哈希算法和数据分片
架构-7.高可用架构之接口级故障

接口级别故障是最常见的故障，相比于机器宕机，机房故障，接口级别的故障要频繁，但是危害却也不小。如果没有好的解决方案，一个接口的问题可能会导致服务雪崩从而使得整体服务都不可使用。

服务雪崩
当某一个接口因一些原因导致故障，比如程序bug，数据库慢查询或者突然大量的访问。接口所在的上级服务，因为等待该服务返回结果，但却迟迟得不到响应，大量的请求累积，最终导致上级服务也故障。而依赖上级服务的其他服务也会重蹈覆辙，最终导致所有的服务全部不可用。

解决接口级别故障的核心是：优先保证核心业务和优先保证大部分用户。当接口发生故障时，要及时舍弃故障的接口，或者释放不重要的资源。

降级

降级的思想就是，对于非关键的功能，可以在必要的时候降低使用率或者直接关闭，比如对于微信，更换头像功能并不是很重要，在春晚红包服务非常重要，为了保证核心功能红包的使用，可以降级换头像的接口，以释放服务器网络带宽等资源给抢红包功能使用。
当然，有些功能时不能直接拒绝的，当主逻辑主动或者被动的被关闭后，可以使用副逻辑，比如记录日志或者写入队列，以便后期恢复。
如spring cloud hystrix提供了fallback方法，当失败时，可以执行fallback方法。

熔断

如果说降级的目的是为了释放资源舍弃故障接口，那么熔断的目的就是为了防止被依赖的服务拖垮，也就是防止服务雪崩。比如依赖第三方支付，如果第三方支付出现响应缓慢或者出现错误时，在尝试几次后就主动的不去尝试，而是直接返回。一个原因是，避免过多的错误累积，导致本身服务不可用，另一个原因是，减少对依赖服务的请求，防止进一步压垮依赖服务。
熔断一般会设置一个阈值，如错误率，当错误率达到阈值，就熔断服务。熔断后也不是一直不恢复，而是周期性的尝试访问，如果访问成功就恢复服务。

限流

限流指只允许系统能够承受的访问量进来，对于超出访问量的直接拒绝。

计数法

计数法是最简单粗暴的限流法，使用一个计数器，一个计时器实现。如限流qps100，实现的思路就是从第一个请求进来后开始计时，如果1秒内请求达到100，则拒绝后面的所有请求。当计时器到达1秒后，清零计数器，重新开始计时。实现简单，但是有个问题，如果在前5毫秒就请求已经到达100个，后面995ms只能被直接拒绝，直到计数器被清零，这种现象被称为“突刺现象”。

漏桶算法

漏桶算法是为了消除突刺现象，具体的做法是使用一个“桶”（一般使用队列实现）存放请求，当请求达到桶的上限时，则拒绝请求，然后以一定的速率处理桶内的请求。这样的处理请求的速率就是恒定的。但是由于速率时恒定的，无法根据实际情况及时调整。比如qps限制为100，那么每0.01秒处理一个请求，如果0.01秒内有100个请求进来，那么最后一个请求必须得在1秒后才得到处理。漏桶算法无法应对这种短时间的突发流量
[外链图片转存失败(img-ozu0kBqY-1568796711107)(en-resource://database/2168:0)]

令牌桶算法

令牌桶算法可以说是对漏桶算法的一种改进。放进桶里的不是请求，而是令牌。令牌工厂以一定的速率产生令牌，请求只有获得令牌才能进行处理，如果没有获得令牌则被直接拒绝。
这种处理方式的好处是，即使有如法流量，比如qps100，此时令牌桶里有100个令牌，一百个请求都可以得到处理，而不用等每0.01秒处理一个请求。而且令牌工厂可以根据具体的处理速度及时的调整产生令牌的速率。
[外链图片转存失败(img-t8pbi5Lw-1568796711108)(en-resource://database/2172:0)]

具体使用

• 计数法可以使用redis实现
• Spring Cloud Gateway提供了RequestRateLimiterGatewayFilterFactory来实现以上三种限流方式。
• 使用开源工具包Guava的限流工具类RateLimiter实现桶令牌算法限流

排队

限流是直接拒绝用户的请求，而排队则是让用户等待一段时间。一般使用队列来保存用户的请求，然后客户端使用轮询的方式获取结果或者异步推送消息，如站内信，短信等。
排队情况得考虑一个队列满了的情况，一般消费者的消费率要比生产者生产率高才可以，但是对于突发的流量，可能处理不过来（所以对于突发流量大的请求，并不适合排队）。
解决的办法是
1.满了则丢弃超出的消息（消息丢失）
2.记录日志，延迟处理
3.写入到死信队列，延迟处理
4.增加消费者（微服务状态下，快速增加消费者）