[ZooKeeper]实践篇-安装并搭建集群

上一篇讲了一些关于zookeeper的理论知识，这一篇讲的是实践。从0到1，安装部署一套可用的zookeeper三节点zookeeper集群环境。

由于我是在自己笔记本上面装的虚拟机，因此无法提供性能较强的虚拟机。
由于某些历史原因，机器版本存在差距，具体机器信息以及版本信息如下表所示：

服务器列表

ip	OS release
192.168.133.13	CentOS6.5
192.168.133.14	CentOS7.6
192.168.133.15	CentOS7.6

一、下载zookeeper

https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.5.6/

二、安装

[root@test13 soft]# tar -xf apache-zookeeper-3.5.6-bin.tar.gz 
[root@test13 soft]# mv apache-zookeeper-3.5.6-bin zookeeper
[root@test13 soft]# chown -R app.app zookeeper
[root@test13 soft]# ll
总用量 9036
-rw-r--r--. 1 app  app  9230052 11月  6 08:50 apache-zookeeper-3.5.6-bin.tar.gz
drwxr-xr-x. 8 app  app     4096 3月  15 2017 jdk1.8.0_131
drwxr-xr-x. 7 root root    4096 6月  13 22:28 keepalived
drwxr-xr-x. 6 app  app     4096 10月 20 2018 predixy-1.0.5
drwxr-xr-x. 6 app  app     4096 11月  6 10:11 zookeeper

先去看看zookeeper安装目录下都有些什么

[root@test13 zookeeper]# ll
总用量 40
drwxr-xr-x. 2 app app  4096 10月  9 04:14 bin
drwxr-xr-x. 2 app app  4096 10月  9 04:14 conf
drwxr-xr-x. 5 app app  4096 10月  9 04:15 docs
drwxr-xr-x. 2 app app  4096 11月  6 10:16 lib
-rw-r--r--. 1 app app 11358 10月  5 19:27 LICENSE.txt
-rw-r--r--. 1 app app   432 10月  9 04:14 NOTICE.txt
-rw-r--r--. 1 app app  1560 10月  9 04:14 README.md
-rw-r--r--. 1 app app  1347 10月  5 19:27 README_packaging.txt

三、配置

1.配置文件修改

首先，需要创建zookeeper的配置文件：
进入zookeeper/conf目录，复制zoo_sample.cfg

[root@test13 conf]# cp zoo_sample.cfg zoo.cfg

修改该文件：

# The number of milliseconds of each tick
#服务期间或者客户端与服务器之间维持心跳的时间间隔，以毫秒为单位。
tickTime=2000
# The number of ticks that the initial 
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between 
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just 
# example sakes.
dataDir=/app/soft/zookeeper/data/
# the port at which the clients will connect
clientPort=2181
#这个参数是其内置的jetty的管理控制台，暂时没搞懂这个有什么用，但是如果机器占用了8080，则需要修改这里端口防止无法启动
admin.serverPort=8081
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the 
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=192.168.133.14:2888:3888
server.2=192.168.133.15:2888:3888
server.3=192.168.133.13:2888:3888

参数说明

参数名	说明
clientPort	客户端连接server的端口，即对外服务端口，一般设置为2181
dataDir	存储快照文件snapshot的目录。默认情况下，事务日志也会存储在这里。建议同时配置参数dataLogDir, 事务日志的写性能直接影响zk性能。
dataLogDir	事务日志输出目录。尽量给事务日志的输出配置单独的磁盘或是挂载点，这将极大的提升ZK性能。
tickTime	ZK中的一个时间单元。ZK中所有时间都是以这个时间单元为基础，进行整数倍配置的。例如，session的最小超时时间是2*tickTime。
globalOutstandingLimit	最大请求堆积数。默认是1000。ZK运行的时候， 尽管server已经没有空闲来处理更多的客户端请求了，但是还是允许客户端将请求提交到服务器上来，以提高吞吐性能。当然，为了防止Server内存溢出，这个请求堆积数还是需要限制下的。
preAllocSize	预先开辟磁盘空间，用于后续写入事务日志。默认是64M，每个事务日志大小就是64M。如果ZK的快照频率较大的话，建议适当减小这个参数。
snapCount	每进行snapCount次事务日志输出后，触发一次快照(snapshot), 此时，ZK会生成一个snapshot.文件，同时创建一个新的事务日志文件log.。默认是100000.（真正的代码实现中，会进行一定的随机数处理，以避免所有服务器在同一时间进行快照而影响性能）
traceFile	用于记录所有请求的log，一般调试过程中可以使用，但是生产环境不建议使用，会严重影响性能。
maxClientCnxns	单个客户端与单台服务器之间的连接数的限制，是ip级别的，默认是60，如果设置为0，那么表明不作任何限制。请注意这个限制的使用范围，仅仅是单台客户端机器与单台ZK服务器之间的连接数限制，不是针对指定客户端IP，也不是ZK集群的连接数限制，也不是单台ZK对所有客户端的连接数限制。
clientPortAddress	对于多网卡的机器，可以为每个IP指定不同的监听端口。默认情况是所有IP都监听 clientPort 指定的端口。
minSessionTimeoutmaxSessionTimeout	Session超时时间限制，如果客户端设置的超时时间不在这个范围，那么会被强制设置为最大或最小时间。默认的Session超时时间是在2 * tickTime ~ 20 * tickTime 这个范围
fsync.warningthresholdms	事务日志输出时，如果调用fsync方法超过指定的超时时间，那么会在日志中输出警告信息。默认是1000ms。
autopurge.purgeInterval	在上文中已经提到，3.4.0及之后版本，ZK提供了自动清理事务日志和快照文件的功能，这个参数指定了清理频率，单位是小时，需要配置一个1或更大的整数，默认是0，表示不开启自动清理功能。
autopurge.snapRetainCount	这个参数和上面的参数搭配使用，这个参数指定了需要保留的文件数目。默认是保留3个。
initLimit	Follower在启动过程中，会从Leader同步所有最新数据，然后确定自己能够对外服务的起始状态。Leader允许F在 initLimit 时间内完成这个工作。通常情况下，我们不用太在意这个参数的设置。如果ZK集群的数据量确实很大了，F在启动的时候，从Leader上同步数据的时间也会相应变长，因此在这种情况下，有必要适当调大这个参数了。
syncLimit	在运行过程中，Leader负责与ZK集群中所有机器进行通信，例如通过一些心跳检测机制，来检测机器的存活状态。如果L发出心跳包在syncLimit之后，还没有从F那里收到响应，那么就认为这个F已经不在线了。注意：不要把这个参数设置得过大，否则可能会掩盖一些问题。
leaderServes	默认情况下，Leader是会接受客户端连接，并提供正常的读写服务。但是，如果你想让Leader专注于集群中机器的协调，那么可以将这个参数设置为no，这样一来，会大大提高写操作的性能。
server.x=[hostname]:nnnnn[:nnnnn]	这里的x是一个数字，与myid文件中的id是一致的。右边可以配置两个端口，第一个端口用于F和L之间的数据同步和其它通信，第二个端口用于Leader选举过程中投票通信。
group.x=nnnnn[:nnnnn]weight.x=nnnnn	对机器分组和权重设置
cnxTimeout	Leader选举过程中，打开一次连接的超时时间，默认是5s
zookeeper.DigestAuthenticationProvider.superDigest	ZK权限设置相关
skipACL	对所有客户端请求都不作ACL检查。如果之前节点上设置有权限限制，一旦服务器上打开这个开头，那么也将失效。
forceSync	这个参数确定了是否需要在事务日志提交的时候调用 FileChannel .force来保证数据完全同步到磁盘。
jute.maxbuffer	每个节点最大数据量，是默认是1M。这个限制必须在server和client端都进行设置才会生效。

上面文件配置了数据目录，此处需要手动创建，并且创建一个名为myid的文件，里面填入指定的数值。

[app@test13 zookeeper]$ mkdir data
[app@test13 zookeeper]$ ll
总用量 44
drwxr-xr-x. 2 app app  4096 10月  9 04:14 bin
drwxr-xr-x. 2 app app  4096 11月  6 11:00 conf
drwxrwxr-x. 2 app app  4096 11月  6 11:01 data
drwxr-xr-x. 5 app app  4096 10月  9 04:15 docs
drwxr-xr-x. 2 app app  4096 11月  6 10:16 lib
-rw-r--r--. 1 app app 11358 10月  5 19:27 LICENSE.txt
-rw-r--r--. 1 app app   432 10月  9 04:14 NOTICE.txt
-rw-r--r--. 1 app app  1560 10月  9 04:14 README.md
-rw-r--r--. 1 app app  1347 10月  5 19:27 README_packaging.txt
[app@test13 zookeeper]$ echo "3" > data/myid

说明：其中这个数值根据zoo.cfg中的配置。因为当前安装服务器为ip为192.168.133.13，即server.3=192.168.133.13:2888:3888，因此此处填入的是3。

2.环境配置

这里有两种配置形式，推荐第一种：
（1）如果是配置到环境变量，可以避免很多类似的环境问题。
配置环境变量也有两种形式，一个是配置到/etc/profile中，这种配置在所有用户上面生效；另一种是配置到用户目录下面的隐藏文件.bashrc中。
作为一个程序，应尽量避免所有用户都有启动权限，因此这里着重介绍配置.bashrc。
以我的机器为例，我希望该程序运行在app用户下，因此，进入app用户目录，修改.bashrc，在文件最后添加：export JAVA_HOME=/app/soft/jdk1.8.0_131

[app@test13 ~]$ vim .bashrc

# .bashrc

# Source global definitions
if [ -f /etc/bashrc ]; then
        . /etc/bashrc
fi

# User specific aliases and functions
JAVA_HOME=/app/soft/jdk1.8.0_131
PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME
export PATH
export CLASSPATH

修改保存后，执行source

source /home/app/.bashrc

（2）配置到脚本中。
这种较为繁琐。在zookeeper/bin目录下，存在以下脚本：

[app@test13 bin]$ ll
总用量 56
-rwxr-xr-x. 1 app app  232 10月  5 19:27 README.txt
-rwxr-xr-x. 1 app app 2067 10月  9 04:14 zkCleanup.sh
-rwxr-xr-x. 1 app app 1154 10月  9 04:14 zkCli.cmd
-rwxr-xr-x. 1 app app 1621 10月  9 04:14 zkCli.sh
-rwxr-xr-x. 1 app app 1766 10月  9 04:14 zkEnv.cmd
-rwxr-xr-x. 1 app app 3690 10月  5 19:27 zkEnv.sh
-rwxr-xr-x. 1 app app 1286 10月  5 19:27 zkServer.cmd
-rwxr-xr-x. 1 app app 4573 10月  9 04:14 zkServer-initialize.sh
-rwxr-xr-x. 1 app app 9386 10月  9 04:14 zkServer.sh
-rwxr-xr-x. 1 app app  996 10月  5 19:27 zkTxnLogToolkit.cmd
-rwxr-xr-x. 1 app app 1385 10月  5 19:27 zkTxnLogToolkit.sh

例如，zk的启动脚本，zkServer.sh中添加：

四、集群搭建

按照以上的文档，分别安装好三台机器。

1.启动

启动三个节点：

/app/soft/zookeeper/bin/zkServer.sh start

2.状态查看

[app@test13 ~]$ /app/soft/zookeeper/bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /app/soft/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost.
Mode: follower

一个集群内只有一个leader节点
例如，这台机器（192.168.133.13）为follower，在192.168.133.14上的执行结果：

[app@node1 zookeeper]$ /app/soft/zookeeper/bin/zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /app/soft/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost.
Mode: leader

3.状态切换

上面说到，三台机器中，192.168.133.14为leader节点。既然搭建了zookeeper集群，原则是为了防止单点故障，实现高可用，因此关闭14节点，正常情况下zookeeper会进行故障转移。
（1）关闭14上面的zookeeper

[app@node1 bin]$ /app/soft/zookeeper/bin/zkServer.sh stop
ZooKeeper JMX enabled by default
Using config: /app/soft/zookeeper/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED

（2）查看其他机器上面的状态


发现状态已经切换，192.168.133.13已经成为新的leader。