etcd 与 Consul 的一致性读对比

本文分享和对比了 etcd 和 Consul 这两个存储的一致性读的实现。

作者：戴岳兵，爱可生研发中心工程师，负责项目的需求开发与维护工作。

爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。

本文约 900 字，预计阅读需要 3 分钟。

etcd 和 Consul 是现在比较流行的分布式一致性 KV 存储，本文就来分享和对比一下这两个存储的一致性读的实现。

Consul 一致性读的实现

Consul 有三种读模式：

1. default
2. consistent
3. stale

其中 stale 是非一致性的读模式，而 default 和 consistent 是一致性的。

consistent 和 default 的区别在于 consistent 在读之前还会向各个节点确认自己是否还是 Leader，以防止在读之前的一瞬间变为 Follower，导致读取到旧值。

接下来我们看看具体实现的代码：

在 Get 方法的一开始 Consul 就调用了 ForwardRPC 方法来转发 RPC 请求，如果转发请求成功就直接返回。

如果转发请求没完成，就会取调用 blockingQuery 来查询本地的存储返回结果。

我们再来看一下 ForwardRPC 内部的实现。

可以看到 ForwardRPC 方法内部主要做了三件事情：

1. 如果需要，转发请求给其他 DC
2. 判断当前节点是否能处理这个读请求
3. 如果不能处理，转发请求给 Leader

我们再来看看第 2 步 Consul 是如何判断的。

其中 info.IsRead 用来判断是不是一个读请求，info.AllowStaleRead 判断 HTTP 请求参数中的 AllowStale，为 false 时即为一致性的读请求，而最后判断是否已经跟 Leader 交互过。

所以当一个请求是一致性读请求时就会走到第 3 步将请求转发到 Leader 上。

而在转发 Leader 时会判断自身是不是 Leader，如果不是才会转发。

小结

从这几段逻辑可以看出，Consul 的一致性读是通过转发读请求给 Leader 来实现的。

etcd 一致性读的实现

etcd 的读分为串行读（Serialize）和线性读（Linearizable）两种模式。其中线性读是一致性的读模式。

同样的我们来看下一致性读的实现：

可以看到串行读和线性读的区别只是在串行读之前调用了 linearizableReadNotify 方法。

而 linearizableReadNotify 中也只是简单的给 s.readwaitc 发信号然后等待结果。

这个信号将会在 linearizableReadLoop 方法中处理。

可以看到 linearizableReadLoop 方法中通过 requestCurrentIndex 方法获得了一个叫做 confirmedIndex 的 index。

requestCurrentIndex 会向 Leader 节点发送 MsgReadIndex 消息，以获取 Leader 节点当前提交的最新的 index。然后再用本地的 appliedIndex 和 confirmedIndex 进行对比，如果本地已应用的 index 小于 confirmedIndex 则进行等待，直到追上 confirmedIndex 才会调用 nr.notify 发送通知信号解除 linearizableReadNotify 的等待进行后续的串行读操作。

也就是说 etcd 在做一致性读时，会先从 Leader 节点获取 Leader 节点当前最新的 commited index，然后和本地的 applied index 进行对比，等到本地应用的日志追上 Leader 时，才进行后续的串行读操作。

总结

从实现上来说 Consul 的一致性读的实现更加简单直接，但是可能会对 Leader 节点的性能造成一些影响。

而相对来说 etcd 的实现更加复杂但是讨巧，也充分利用到了每个节点的资源。