zookeeper是什么?
Zookeeper 是一个开源的分布式的,为分布式应用提供协调服务的 Apache 项目。
Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册, 一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。
zookeeper的应用场景
-
统一命名服务:在分布式环境下,经常需要对应用/服务进行统一命名,便于识别。
-
统一配置管理:分布式环境下,配置文件同步非常常见。一般要求一个集群中,所有节点的配置信息是
一致的,比如Kafka集群。对配置文件修改后,希望能够快速同步到各个节点上。 -
统一集群管理:分布式环境中,实时掌握每个节点的状态是必要的。ZooKeeper可以实现实时监控节点状态变化,可将节点信息写入ZooKeeper上的一个ZNode,监听这个ZNode可获取它的实时状态变化。
-
软负载均衡:在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求
zookeeper的配置参数
Zookeeper中的配置文件zoo.cfg中参数含义解读如下:
- tickTime =2000:通信心跳数,Zookeeper 服务器与客户端心跳时间,单位毫秒。
- initLimit =10:LF 初始通信时限。集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心 跳数(tickTime的数量)。
- syncLimit =5:LF 同步通信时限。集群中Leader与Follower之间的最大响应时间单位。
- dataDir:数据文件目录+数据持久化路径
- clientPort =2181:客户端连接端口
客户端的基本命令
命令基本语法 | 功能描述 |
---|---|
help | 显示所有操作命令 |
ls path | 使用 ls 命令来查看当前 znode 中所包含的内容 |
create path data | 普通创建 |-s 含有序列|-e 临时(重启或者超时消失) |
get path | 获得节点的值 |
set path data | 设置节点的具体值 |
delete path | 删除节点 |
deleteall path | 直接删除指定的所有节点 |
zookeeper的内部原理
zookeeper的节点类型
- 持久化目录节点
客户端与Zookeeper断开连接后,该节点依旧存在 - 持久化顺序编号目录节点
客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号 - 临时目录节点
客户端与Zookeeper断开连接后,该节点被删除 - 临时顺序编号目录节点
客户端与Zookeeper断开连接后,该节点被删除,只是Zookeper给该节点名称进行顺序编号。
Stat结构体
-
czxid-创建节点的事务 zxid
每次修改 ZooKeeper 状态都会收到一个 zxid 形式的时间戳,也就是 ZooKeeper 事务 ID。
事务 ID 是 ZooKeeper 中所有修改总的次序。每个修改都有唯一的 zxid,如果 zxid1 小于 zxid2,那么 zxid1 在 zxid2 之前发生。
-
ctime - znode 被创建的毫秒数(从 1970 年开始)
-
mzxid - znode 最后更新的事务 zxid
-
mtime - znode 最后修改的毫秒数(从 1970 年开始)
-
pZxid-znode 最后更新的子节点 zxid
-
cversion - znode 子节点变化号,znode 子节点修改次数
-
dataversion - znode 数据变化号
-
aclVersion - znode 访问控制列表的变化号
-
ephemeralOwner- 如果是临时节点,这个是 znode 拥有者的 session id。如果不是临时节点则是 0
-
dataLength- znode 的数据长度
-
numChildren - znode 子节点数量
监听器原理
监听原理详解:
- 首先要有一个main线程
- 在main线程中创建Zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信( connect) , 一个负责监听( listener )。
- 通过Connect线程将注册的监听事件发送给Zookeeper。
- 在Zookeper的注册监听器列表中将注册的监听事件添加到列表中。
- Zookeper监听到有数据或路径变化,就会将这个消息发送给 listener线程。
- listener线程内部调用了process()方法。
选举机制
-
半数机制:集群中半数以上机器存活,集群可用。所以 Zookeeper 适合安装奇数台服务器。
-
Zookeeper 虽然在配置文件中并没有指定 Master 和 Slave。但是,Zookeeper 工作时,是有一个节点为 Leader,其他则为 Follower,Leader 是通过内部的选举机制临时产生的。
-
以一个简单的例子来说明整个选举的过程
假设有五台服务器组成的 Zookeeper 集群,它们的 id 从 1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的。假设这些服务器依序启动
(1)服务器 1 启动,发起一次选举。服务器 1 投自己一票。此时服务器 1 票数一票,不够半数以上(3 票),选 举无法完成,服务器 1 状态保持为 LOOKING;
(2)服务器 2 启动,再发起一次选举。服务器 1 和 2 分别投自己一票并交换选票信息,此时服务器 1 发现服务器 2 的 ID 比自己目前投票推举的(服务器 1)大,更改选票为推举服务器 2。此时服务器 1 票数 0 票,服务器 2 票数 2 票,没有半数以上结果,选举无法完成,服务器 1,2 状态保持 LOOKING
(3)服务器 3 启动,发起一次选举。此时服务器 1 和 2 都会更改选票为服务器 3。此次投票结果:服务器 1 为 0 票,服务器 2 为 0 票,服务器 3 为 3 票。此时服务器 3 的票数已经超过半数,服务器 3 当选 Leader。服务 器 1,2 更改状态为 FOLLOWING,服务器 3 更改状态为 LEADING;
(4)服务器 4 启动,发起一次选举。此时服务器 1,2,3 已经不是 LOOKING 状态,不会更改选票信息。交换选 票信息结果:服务器 3 为 3 票,服务器 4 为 1 票。此时服务器 4服从多数,更改选票信息为服务器 3,并更 改状态为 FOLLOWING;
(5)服务器 5 启动,同 4 一样当小弟。