前言
在网络请求中,由于网络是不可靠的,所以经常会有请求失败的场景。针对这种问题,通常的做法是增加重试机制,在请求失败后重新请求,尽量保证请求的成功,从而提高服务的稳定性。
重试的风险
可是大多数人不愿意轻易的重试,因为往往重试会带来更大的风险。比如过多的重试,会给被调用服务造成更大的压力,放大原有的问题。
如下图所示,服务 A 调用 服务 B,服务 B 根据请求数据不同,会调用 服务 C 和 服务 D。此时服务 C 出现故障,不可用了,那么服务 B 中所有对服务 C 的请求都会超时,但服务 D 现在还是可用的;可由于服务 A 中大量的重试导致服务 B 的负载快速升高,很快的将服务 B 的负载打满(比如连接池沾满)。现在调用服务 D 的分支请求也不可用了,因为服务 B 已经被重试请求打满,无法再处理任何请求了。 如果服务自身是可用的,但网络出现较大的延迟、抖动或者丢包,导致请求到达目标服务或返回发起服务超时;此时如果客户端发起重试,那么对于接收端来说,很可能会收到多个相同的请求。所以服务端还需要增加幂等的处理,保证多次请求下结果一致
既然重试有风险,那难道就不应该重试吗?失败就直接失败,啥都不管吗?
不同时机下的失败重试
是否进行重试,这个需要区分当前失败的原因,不能简单粗暴的决定重试或者不重试。网络很复杂,链路很长,不同类型的协议,决定是否重试的策略也有所不同。
HTTP 协议下的重试
一个基本的 HTTP 请求,会包含以下几个阶段:
- DNS 解析
- TCP 三次握手
- 发送&接受对端数据
在 DNS 解析阶段时,如果域名不存在,或者域名没有 DNS 记录,根据域名无法解析到对应的主机地址列表,那么根本就无法发起请求,此时重试没有任何意义,所以并不需要重试
在 TCP 握手阶段,如果目标服务不可用,那么此时重试也没有什么意义,因为在请求的第一步- 握手都不成功,大概率这个 host 是不可用的。
挺过了 DNS 和握手两个阶段之后,终于到了收发数据的阶段。到了这一步一旦出现失败,是否重试要考虑的因素可就更多了。
如下图所示的这种情况中,因为网络拥塞等原因,导致数据到达服务端时间过长,但最终服务端也收到了完整的报文,已经开始处理请求,可此时客户端因为超时放弃了该请求,那么如果客户端此时新建一条 TCP 连接发起重试,那么对于服务端来说就会收到两次相同的请求报文,处理两次该请求,可能造成严重的后果
所以这种已经发送成功的情况,就不适合重试 问题来了,怎么样才能知道我发送成功了呢?socket.write没有报错就算成功了?SocketChannel.write之后,Buffer 写空了就算成功了?
并没有那么简单,应用层的 socket write,只是将数据写入 SND Buffer 中,至于 SND Buffer 中的数据什么时候被操作系统发送至网络,这个并没有任何保证。阻塞和非阻塞也只是针对 socket.write 这个操作的,当 SND Buffer已满,无法将数据写入内核 SND Buff