动物园管理者--Zookeeper

大数据技术之Zookeeper（又可称为动物园管理者）
本文先讲Zookeeper概述与原理

ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。
ZooKeeper的目标就是封装好复杂易出错的关键服务，将简单易用的接口和性能高效、功能稳定的系统提供给用户。
ZooKeeper包含一个简单的原语集，提供Java和C的接口。

1.Zookeeper概述

1.1 概述

Zookeeper是一个开源的分布式的，为分布式应用提供服务的Apache项目。
Zookeeper从设计模式角度来理解：是一个基于观察者模式设计的分布式服务管理框架，它负责存储和管理大家都关心的，然后接受观察者的注册，一旦这些数据的状态发生变化，Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应，从而实现集群中类似Master/ Slave管理模式
Zookeeper=文件系统+通知机制

1.2 特点

（1）Zookeeper：一个领导者（leader），多个跟随者（follower）组成的集群。
（2）Leader：负责进行投票的发起和决议，更新系统状态。
（3）Follower：用于接收客户请求并向客户端返回结果，在选举leader过程中参与投票。
（4）集群中只要有半数以上节点存活，Zookeeper集群就能正常服务。
（5）全局数据一致：每个server保存一份相同的数据副本，client无论连接到哪个server，数据都是一致的。
（6）更新请求顺序进行，来自同一个client的更新请求按其发送顺序依次执行。
（7）数据更新原子性，一次数据要么更新成功，要么失败。
（8）实时性，在一定时间范围内，client能读到最新数据。

1.3 数据结构

Zookeeper数据模型的结构与Unix文件系统很类似，整体上可以看做是一棵树，每个节点称作一个ZNode。
很显然Zookeeper集群自身维护了一套数据结构。这个存储结构是一个树形结构，其上的每一个节点，我们称之为“znode”，每一个znode默认能够存储1MB的数据，每个znode都可以通过其路径唯一标识，如下图

1.4 应用场景

提供的服务包括：分布式消息同步机制和协调机制、服务器节点动态上下线、统一配置管理、负载均衡、集群管理等，如下图所示

统一配置管理

软负载均衡

集群管理

1.5 下载地址

（1）官网首页：
link
（2）下载截图，如下所示

2.Zookeeper内部原理

2.1 选举机制

（1）半数以上（Paxos协议）：集群中半数以上机器存活，集群可以使用。所以Zookeeper适合装在奇数台机器上。
（2）Zookeeper虽然在配置文件中并没有指定master和slave。但是，Zookeeper工作时，是有一个节点为leader，其他则为follower，Leader是通过内部选举机制临时产生的。
（3）以一个简单的例子来说明整个选举过程：
假设有5台服务器组成的Zookeeper集群，它们的id从1~5，同时它们都是最新启动的，也就是没有历史数据，在存放数据量这一点上，都是一样的。假设这些服务器依序启动，来看看会发生什么，如下图

== Zookeeper的选举机制==
（1）服务器1启动，此时只有它一台服务器启动了，它发出去的报没有任何响应，所以它的选举状态一直是Looking状态。
（2）服务器2启动，它与最开始启动的服务器1进行通行，互相交换自己的选举结果，由于两者都没有历史数据，所以id值较大的服务器2胜出，但是由于没有达到半数以上的服务器都同意选举它（这个例子中的半数以上是3），所以服务器1、2还是继续保持Looking状态。
（3）服务器3启动，根据前面的理论分析，服务器3成为服务器1、2、3中的老大，而与上面不同的是，此时有三台服务器选举了它，所以它成为了这次选举的Leader。
（4）服务器4启动，根据前面的分析，理论上服务器4应该是服务器1、2、3、4中最大的，但是由于前面已有半数以上的服务器选举了服务器3，所以它只能接受当小弟的命了。
（5）服务器5启动，同4一样当小弟。

2.2 节点类型

2.2.1 ZNode有两种类型：

短暂（ephemeral）：客户端和服务器端断开连接后，创建的节点自己删除
持久（persistent）：客户端和服务器端断开连接后，创建的节点不删除

2.2.2 ZNode有四种形式的目录节点（默认是persistent）

（1）持久化目录节点（PERSISTENT）
客户端与zookeeper断开连接后，该节点依旧存在
（2）持久化顺序编号目录节点（PERSISTENT_SEQUENTIAL）
客户端与zookeeper断开连接后，该节点依旧存在，只是Zookeeper给该节点名称进行顺序编号
（3）临时目录节点（EPHEMERAL）
客户端与zookeeper断开连接后，该节点被删除
（4）临时顺序编号目录节点（EPHEMERAL_SEQUENTIAL）
客户端与zookeeper断开连接后，该节点被删除，只是Zookeeper给该节点名称进行顺序编号，如下图

2.2.3 创建znode时设置顺序标识，znode名称后会附加一个值，顺序号是一个单调递增的计数器，由父节点维护

2.2.4 在分布式系统中，顺序号可以被用于为所有的事件进行全局排序，这样客户端可以通过顺序号推断事件的顺序

2.3 stat结构体

1）czxid- 引起这个znode创建的zxid，创建节点的事务的zxid
每次修改ZooKeeper状态都会收到一个zxid形式的时间戳，也就是ZooKeeper事务ID。
事务ID是ZooKeeper中所有修改总的次序。每个修改都有唯一的zxid，如果zxid1小于zxid2，那么zxid1在zxid2之前发生。
2）ctime - znode被创建的毫秒数(从1970年开始)
3）mzxid - znode最后更新的zxid
4）mtime - znode最后修改的毫秒数(从1970年开始)
5）pZxid-znode最后更新的子节点zxid
6）cversion - znode子节点变化号，znode子节点修改次数
7）dataversion - znode数据变化号
8）aclVersion - znode访问控制列表的变化号
9）ephemeralOwner- 如果是临时节点，这个是znode拥有者的session id。如果不是临时节点则是0。
10）dataLength- znode的数据长度
11）numChildren - znode子节点数量

2.4 监听器原理

2.4.1 监听器原理详解（如上图）

1）首先要有一个main()线程
2）在main线程中创建Zookeeper客户端，这时就会创建两个线程，一个负责网络连接通信（connet），一个负责监听（listener）。
3）通过connect线程将注册的监听事件发送给Zookeeper。
4）在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。
5）Zookeeper监听到有数据或路径变化，就会将这个消息发送给listener线程。
6）listener线程内部调用了process（）方法。

2.4.2 常见的监听

（1）监听节点数据的变化：
get path [watch]
（2）监听子节点增减的变化
ls path [watch]

2.5 写数据流程

Zookeeper的写数据流程主要分为以下几步，如上图所示
1）比如 Client 向 ZooKeeper 的 Server1 上写数据，发送一个写请求。
2）如果Server1不是Leader，那么Server1 会把接受到的请求进一步转发给Leader，因为每个ZooKeeper的Server里面有一个是Leader。这个Leader 会将写请求广播给各个Server，比如Server1和Server2， 各个Server写成功后就会通知Leader。
3）当Leader收到大多数 Server 数据写成功了，那么就说明数据写成功了。如果这里三个节点的话，只要有两个节点数据写成功了，那么就认为数据写成功了。写成功之后，Leader会告诉Server1数据写成功了。
4）Server1会进一步通知 Client 数据写成功了，这时就认为整个写操作成功。ZooKeeper 整个写数据流程就是这样的。