zookeeper简介（一）

zookeeper专栏
上一篇	主目录	下一篇

---

【前言】
zookeeper

---

设计目的

1. 最终一致性：client不论连接到哪个Server，展示给它都是同一个视图，这是zookeeper最重要的性能。 所有能够提供服务的zokeeper的节点 必须都是跟leader节点保持同步的状态，zookeeper当中的leader节点的数据一定是最新，所有learner节点都跟leader保持同步的话，那么所有这些learner节点的数据状态也都是最新，所有能够对外提供服务的zookeeper节点的数据状态是最新的.如果不是最新的，那么系统会如何处理？当前的zookeeper系统会自动把没有同步到最新数据状态的节点 剔除服务范围 （结合了CAP理论中的 C 和 A）
2. 可靠性：具有简单、健壮、良好的性能，如果消息被到一台服务器接受，那么它将被所有的服务器接受。 所有的客户端在连接到zookeeper的任意一台服务器，然后发送的请求，都能得到响应。而且如果查询到数据，那么一定是最新的
3. 实时性：Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息，或者服务器失效的信息（成功、失败、超时timeout）。但由于网络延时等原因，Zookeeper不能保证两个客户端能同时得到刚更新的数据，如果需要最新数据，应该在读数据之前调用sync()接口。
4. 等待无关（wait-free）：慢的或者失效的client不得干预快速的client的请求，使得每个client都能有效的等待。如果服务器接收的请求a在b的前面，那么不管a处理的速度是块还是慢，反正b不能干扰a的处理。不管发送的请求的处理效率是高还是低，高的或者低的请求都不能干扰其他的请求。
5. 原子性：更新只能成功或者失败，没有中间状态。 每一个客户端发送的每一个请求的执行处理 要么是成功，要么是失败， 没有中间状态。集群当中的每个节点中所存储的这个值的状态一定是一致性。当前一个请求被一个节点接受了，那么这个请求就必须要被所有的服务器接受。如果说要严格的限制所有的服务器节点都处理成功，那么假如zookeeper集群的节点的个数比较多的话，很明显，当前在全局范围内做数据或者请求同步的复杂度很高。可以容忍有部分的zookeeper节点保持数据不一致，那么就让系统把当前没有保持数据同步的节点剔除服务范围
6. 顺序性：包括全局有序和偏序两种：全局有序是指如果在一台服务器上消息a在消息b前发布，则在所有Server上消息a都将在消息b前被发布；偏序是指如果一个消息b在消息a后被同一个客户端发布，a必将排在b前面。

zookeeper系统的特性

1. zookeeper系统中的参与选举和被选举的节点的个数是 奇数个。为什么zookeeper的节点配置的个数必须是奇数个？真正的原因： 要求参与选举的集群的节点个数必须是奇数个。zookeeper有这样一个特性：集群中只要有过半的机器是正常工作的，那么整个集群对外就是可用的。也就是说如果有2个zookeeper，那么只要有1个死了zookeeper就不能用了，因为1没有过半，所以2个zookeeper的死亡容忍度为0；同理，要是有3个zookeeper，一个死了，还剩下2个正常的，过半了，所以3个zookeeper的容忍度为1；同理你多列举几个：2->0;3->1;4->1;5->2;6->2会发现一个规律，2n和2n-1的容忍度是一样的，都是n-1，所以为了更加高效，何必增加那一个不必要的zookeeper呢。
2. zookeeper系统中的每个节点中都存储了一份最完整的数据视图。每个server保存一份相同的数据副本，client无论连接到哪个server，数据都是一致的
3. 该zookeeper是一个分布式的系统，很有可能会出现跟其他的正常的分布式系统一样的各种问题： 单点故障， 如果zookeeper系统设计的思路和普通的分布式系统一致的话，zookeeper系统的运行的可靠性不高。必须需要一个其他的新的用来管理zookeeper的系统。所以zookeeper的设计思路是跟普通的分布式集群不一致。zookeeper为了能使自己具有很强的生命力，所以让 每个节点都把数据保存了一份最新的完整的。可以在系统的部分节点宕机的情况下，依然能够保证系统对外可以提供服务。真正可宕机的节点的个数是 不超过节点的半数
4. zookeeper的系统中角色分为三种：leader、learner（follower + observer）、client。leader是能处理读数据请求和写数据请求，但是 learner 只能处理 读数据请求，learner包含了两个小角色（follower + observer），observer这个角色跟follower的区别就在于 observer 没有选举权和被选举权。除此之外，他们的功能一模一样。observer的出现就是为了去解决当原有的zookeeper系统在高压下性能不高的问题，提供一种扩展能力（一个leader，多个follower组成的集群）。选举的leader的节点有可能是集群当中的任意一个。
5. 数据更新原子性，一次数据更新要么成功，要么失败
6. 实时性，在一定时间范围内，client能读到最新数据

zookeeper是一个分布式协调服务

1. zookeeper是为别的分布式程序服务的
2. zookeeper本身就是一个分布式程序（只要有半数以上节点存活，zk就能正常服务）。半数以上投票通过，可以这样理解：客户端的增删改操作无论访问到了哪台zookeeper服务器，最终都会被转发给leader服务器，再由leader服务器分给zookeeper集群中所有follower服务器去投票（投票指的是在内存中做增删改操作），半数投票通过就被认为操作可执行（commit），否则不可执行。observer观察者服务器是针对于查询操作做负载的，observer与follower服务器最大的不同在于observer没有投票权，在客户端发起的增删改操中，leader服务器是不会把消息传递给observer服务器让其投票的。但是查询操作跟follower一样，客户端的查询到了observer服务器节点，observer服务器去访问leader服务器取最新的数据然后返回给客户端。
3. zookeeper所提供的服务涵盖：主从协调、服务器节点动态上下线、统一配置管理、分布式共享锁、统一名称服务
4. 虽然说可以提供各种服务，但是zookeeper在底层其实只提供了两个功能：管理(存储，读取)用户程序提交的数据,并为用户程序提供数据节点监听服务。

zookeeper数据结构

• 层次化的目录结构，命名符合常规文件系统规范
  每个节点在zookeeper中叫做znode,并且其有一个唯一的路径标识
  节点Znode可以包含数据和子节点（但是EPHEMERAL类型的节点不能有子节点）
  客户端应用可以在节点上设置监视器

• 节点类型
  1、Znode有两种类型：
  短暂（ephemeral）（断开连接自己删除）、持久（persistent）（断开连接不删除）
  2、Znode有四种形式的目录节点（默认是persistent ）
  PERSISTENT、PERSISTENT_SEQUENTIAL（持久序列/test0000000019）
  EPHEMERAL、EPHEMERAL_SEQUENTIAL
  3、创建znode时设置顺序标识，znode名称后会附加一个值，顺序号是一个单调递增的计数器，由父节点维护
  4、在分布式系统中，顺序号可以被用于为所有的事件进行全局排序，这样客户端可以通过顺序号推断事件的顺序
  4、 zookeeper原理
  zookeeper虽然在配置文件中并没有指定master和slave。但是，zookeeper工作时，是有一个节点为leader，其他则为follower。Leader是通过内部的选举机制临时产生的。

选举机制

• 选举机制(FastLeaderElection算法)：sid最大且被超过集群中超过半数的机器拥护就会成为leader.
  所以只有两种情况无法选出leader：
  1.整个集群只有2台服务器（注意不是只剩2台，而是集群的总节点数为2）
  2.整个集群超过半数机器挂掉。

• 最终能够选举胜出的那台服务器获取的票数必须是所有服务器的半数以上，包括没宕机的和已经宕机的（例如：11台服务器，2台宕机，9台还是要必须要有6台（超过半数）选举才能成为leader而不是9台的半数5台）

• 所谓的偶数问题其实是另一个集群优化配置问题，即:集群的容灾数量=集群总节点数/2-1
  假如集群有5节点，那么最多允许2个节点挂掉，如果有3节点挂了，那么整个集群的选举结果不会满足条件：集群中超过半数的机器拥护。假如集群有6个节点，那么最多也只能挂掉2台，因为挂了3台时，选举结果也不会满足条件:集群中超过半数的机器拥护。结果可以看出，多那一台用处并不大。所以集群总数推荐为奇数。

• zookeeper的选举机制（全新集群paxos）
  Paxos 算法解决的问题是一个分布式系统如何就某个值（决议）达成一致。Paxos 算法就是一种基于消息传递模型的一致性算法。以一个简单的例子来说明整个选举的过程：

假设有五台服务器组成的zookeeper集群,它们的id从1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的.假设这些服务器依序启动,来看看会发生什么.
1) 服务器1启动,此时只有它一台服务器启动了,它发出去的报没有任何响应,所以它的选举状态一直是LOOKING状态
2) 服务器2启动,它与最开始启动的服务器1进行通信,互相交换自己的选举结果,由于两者都没有历史数据,所以id值较大的服务器2胜出,但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3),所以服务器1,2还是继续保持LOOKING状态.
3) 服务器3启动,根据前面的理论分析,服务器3成为服务器1,2,3中的老大,而与上面不同的是,此时有三台服务器选举了它,所以它成为了这次选举的leader.
4) 服务器4启动,根据前面的分析,理论上服务器4应该是服务器1,2,3,4中最大的,但是由于前面已经有半数以上的服务器选举了服务器3,所以它只能接收当小弟的命了.
5) 服务器5启动,同4一样,当小弟.

• 非全新集群的选举机制(数据恢复)
  那么，初始化的时候，是按照上述的说明进行选举的，但是当zookeeper运行了一段时间之后，有机器down掉，重新选举时，选举过程就相对复杂了。需要加入数据id、leader id和逻辑时钟。数据id：数据新的id就大，数据每次更新都会更新id。Leader id：就是我们配置的myid中的值，每个机器一个。逻辑时钟：这个值从0开始递增,每次选举对应一个值,也就是说: 如果在同一次选举中,那么这个值应该是一致的 ; 逻辑时钟值越大,说明这一次选举leader的进程更新·。选举的标准就变成：

1、逻辑时钟小的选举结果被忽略，重新投票
2、统一逻辑时钟后，数据id大的胜出
3、数据id相同的情况下，leader id大的胜出根据这个规则选出leader。

Hadoop的HA架构是通过Zookeeper实现的。