第3章 Zookeeper集群操作

第3章 Zookeeper集群操作

3.1 集群操作

3.1.1 集群安装

1）集群规划

在hadoop102、hadoop103和hadoop104三个节点上都部署Zookeeper。

思考：如果是10台服务器，需要部署多少台Zookeeper？

2）解压安装

（1）在hadoop102解压Zookeeper安装包到/opt/module/目录下

[wolffy@hadoop102 software]$ tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz -C /opt/module/

（2）修改apache-zookeeper-3.5.7-bin名称为zookeeper-3.5.7

[wolffy@hadoop102 module]$ mv apache-zookeeper-3.5.7-bin/ zookeeper-3.5.7

3）配置服务器编号

（1）在/opt/module/zookeeper-3.5.7/这个目录下创建zkData

[wolffy@hadoop102 zookeeper-3.5.7]$ mkdir zkData

（2）在/opt/module/zookeeper-3.5.7/zkData目录下创建一个myid的文件

[wolffy@hadoop102 zookeeper-3.5.7]$ vi myid

在文件中添加与server对应的编号（注意：上下不要有空行，左右不要有空格）

2

注意：添加myid文件，一定要在Linux里面创建

（3）拷贝配置好的zookeeper到其他机器上

[wolffy@hadoop102 module]$ xsync  zookeeper-3.5.7

并分别在hadoop103、hadoop104上修改myid文件中内容为3、4

4）配置zoo.cfg文件

（1）重命名/opt/module/zookeeper-3.5.7/conf这个目录下的zoo_sample.cfg为zoo.cfg

[wolffy@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

（2）打开zoo.cfg文件

[wolffy@hadoop102 conf]$ vim zoo.cfg

#修改数据存储路径配置
dataDir=/opt/module/zookeeper-3.5.7/zkData
#增加如下配置
#######################cluster##########################
server.2=hadoop102:2888:3888
server.3=hadoop103:2888:3888
server.4=hadoop104:2888:3888

（3）配置参数解读

server.A=B:C:D。

A是一个数字，表示这个是第几号服务器；集群模式下配置一个文件myid，这个文件在dataDir目录下，这个文件里面有一个数据就是A的值，Zookeeper启动时读取此文件，拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

B是这个服务器的地址；

C是这个服务器Follower与集群中的Leader服务器交换信息的端口；

D是万一集群中的Leader服务器挂了，需要一个端口来重新进行选举，选出一个新的Leader，而这个端口就是用来执行选举时服务器相互通信的端口。

（4）同步zoo.cfg配置文件

[wolffy@hadoop102 conf]$ xsync zoo.cfg

5）集群操作

（1）分别启动Zookeeper

[wolffy@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start
[wolffy@hadoop103 zookeeper-3.5.7]$ bin/zkServer.sh start
[wolffy@hadoop104 zookeeper-3.5.7]$ bin/zkServer.sh start

（2）查看状态

[wolffy@hadoop102 zookeeper-3.5.7]# bin/zkServer.sh status

JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Mode: follower
[wolffy@hadoop103 zookeeper-3.5.7]# bin/zkServer.sh status
JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Mode: leader
[wolffy@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status
JMX enabled by default
Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg
Mode: follower

3.1.2 选举机制（面试重点）

（1）半数机制：集群中半数以上机器存活，集群可用。所以Zookeeper适合安装奇数台服务器。

（2）Zookeeper虽然在配置文件中并没有指定Master和Slave。但是，Zookeeper工作时，是有一个节点为Leader，其他则为Follower，Leader是通过内部的选举机制临时产生的。

（3）以一个简单的例子来说明整个选举的过程。

假设有五台服务器组成的Zookeeper集群，它们的id从1-5，同时它们都是最新启动的，也就是没有历史数据，在存放数据量这一点上，都是一样的。假设这些服务器依序启动，来看看会发生什么。

Zookeeper选举机制——第一次启动

SID：服务器ID。用来唯一标识一台ZooKeeper集群中的机器，每台机器不能重复，和myid一致。

ZXID：事务ID。ZXID是一个事务ID，用来标识一次服务器状态的变更。在某一时刻，集群中的每台机器的ZXID值不一定完全一致，这和ZooKeeper服务器对于客户端“更新请求”的处理逻辑有关。

Epoch：每个Leader任期的代号。没有Leader时同一轮投票过程中的逻辑时钟值是相同的。每投完一次票这个数据就会增加

（1）服务器1启动，发起一次选举。服务器1投自己一票。此时服务器1票数一票，不够半数以上（3票），选举无法完成，服务器1状态保持为LOOKING；

（2）服务器2启动，再发起一次选举。服务器1和2分别投自己一票并交换选票信息：此时服务器1发现服务器2的myid比自己目前投票推举的（服务器1）大，更改选票为推举服务器2。此时服务器1票数0票，服务器2票数2票，没有半数以上结果，选举无法完成，服务器1，2状态保持LOOKING

（3）服务器3启动，发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果：服务器1为0票，服务器2为0票，服务器3为3票。此时服务器3的票数已经超过半数，服务器3当选Leader。服务器1，2更改状态为FOLLOWING，服务器3更改状态为LEADING；

（4）服务器4启动，发起一次选举。此时服务器1，2，3已经不是LOOKING状态，不会更改选票信息。交换选票信息结果：服务器3为3票，服务器4为1票。此时服务器4服从多数，更改选票信息为服务器3，并更改状态为FOLLOWING；

（5）服务器5启动，同4一样当小弟。

Zookeeper选举机制——非第一次启动

（1）当ZooKeeper集群中的一台服务器出现以下两种情况之一时，就会开始进入Leader选举：

• ​ 服务器初始化启动。
• 服务器运行期间无法和Leader保持连接。

（2）而当一台机器进入Leader选举流程时，当前集群也可能会处于以下两种状态：

• 集群中本来就已经存在一个Leader。

• 对于第一种已经存在Leader的情况，机器试图去选举Leader时，会被告知当前服务器的Leader信息，对于该机器来说，仅仅需要和Leader机器建立连接，并进行状态同步即可。

• 集群中确实不存在Leader。假设ZooKeeper由5台服务器组成，SID分别为1、2、3、4、5，ZXID分别为8、8、8、7、7，并且此时SID为3的服务器是Leader。某一时刻，3和5服务器出现故障，因此开始进行Leader选举。

选举Leader规则：①EPOCH大的直接胜出 ②EPOCH相同，事务id大的胜出 ③事务id相同，服务器id大的胜出

3.1.3 ZK集群启动停止脚本

1）在hadoop102的/home/wolffy/bin目录下创建脚本

[wolffy@hadoop102 bin]$ vim zk.sh

​ 在脚本中编写如下内容

#!/bin/bash
if [ $# -lt 1 ]
then
	echo "input Args Error!!!"
	echo "例如：zk.sh start/stop/status"
	exit
fi
for i in hadoop102 hadoop103 hadoop104
do
	case $1 in
	"start")
		echo "=================START $i ZOOKEEPER=============="
		ssh $i /opt/module/zookeeper-3.5.7/bin/zkServer.sh start
	;;
	"status")
		echo "=================STAYUS $i ZOOKEEPER=============="
                ssh $i /opt/module/zookeeper-3.5.7/bin/zkServer.sh status
	;;
	"stop")
		echo "=================STOP $i ZOOKEEPER=============="
                ssh $i /opt/module/zookeeper-3.5.7/bin/zkServer.sh stop
	;;
	*)
		echo "error!!!!!"
	exit
	;;
	esac
done

2）增加脚本执行权限

[wolffy@hadoop102 bin]$ chmod u+x zk.sh

3）Zookeeper集群启动脚本

[wolffy@hadoop102 module]$ zk.sh start

4）Zookeeper集群停止脚本

[wolffy@hadoop102 module]$ zk.sh stop

3.2 客户端命令行操作

3.2.1 命令行语法

命令基本语法	功能描述
help	显示所有操作命令
ls path	使用 ls 命令来查看当前znode的子节点 [可监听]-w 监听子节点变化-s 附加次级信息
create	普通创建-s 含有序列-e 临时（重启或者超时消失）
get path	获得节点的值 [可监听]-w 监听节点内容变化-s 附加次级信息
set	设置节点的具体值
stat	查看节点状态
delete	删除节点
deleteall	递归删除节点

1）启动客户端

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh -server hadoop102:2181

2）显示所有操作命令

[zk: hadoop102:2181(CONNECTED) 1] help

3.2.2 znode节点数据信息

1）查看当前znode中所包含的内容

[zk: hadoop102:2181(CONNECTED) 0] ls /

[zookeeper]

2）查看当前节点详细数据

[zk: hadoop102:2181(CONNECTED) 5] ls -s /

[zookeeper]cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x0
cversion = -1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 1

（1）czxid：创建节点的事务zxid

每次修改ZooKeeper状态都会产生一个ZooKeeper事务ID。事务ID是ZooKeeper中所有修改总的次序。每次修改都有唯一的zxid，如果zxid1小于zxid2，那么zxid1在zxid2之前发生。

（2）ctime：znode被创建的毫秒数（从1970年开始）

（3）mzxid：znode最后更新的事务zxid

（4）mtime：znode最后修改的毫秒数（从1970年开始）

（5）pZxid：znode最后更新的子节点zxid

（6）cversion：znode子节点变化号，znode子节点修改次数

（7）dataversion：znode数据变化号

（8）aclVersion：znode访问控制列表的变化号

（9）ephemeralOwner：如果是临时节点，这个是znode拥有者的session id。如果不是临时节点则是0。

（10）dataLength：znode的数据长度

（11）numChildren：znode子节点数量

3.2.3 节点类型（持久/短暂/有序号/无序号）

持久（Per