zookeeper 客户端配置_大数据复习之Zookeeper的进阶:

概述:

Zookeeper 是一个开源的分布式的,为分布式应用提供协调服务的 Apache 项目。

Zookeeper工作机制:

Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化 ,Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。

Zookeeper特点:

bec73c823c9b50a6e720ce5071b87a7c.png

1)Zookeeper:一个领导者(Leader),多个跟随者(Follower)组成的集群。

2)集群中只要有半数以上节点存活,Zookeeper集群就能正常服务。

3)全局数据一致:每个Server保存一份相同的数据副本,Client无论连接到哪个Server,数据都是一致的。

4)更新请求顺序进行,来自同一个Client的更新请求按其发送顺序依次执行。

5)数据更新原子性,一次数据更新要么成功,要么失败。

6)实时性,在一定时间范围内,Client能读到最新数据。

数据结构:

ZooKeeper数据模型的结构与Unix文件系统很类似,整体上可以看作是一棵树,每个节点称做一个ZNode。

每一个ZNode默认能够存储1M B的数据,每个ZNode都可以通过其路径唯一标识。

7da9f81f86b55d3015fc0ace7a23b816.png

应用场景:

提供的服务包括:统一命名服务、统一配置管理、统一集群管理、服务器节点动态上下线、软负载均衡等。

统一命名服务:

39dd326ecb60084a4896f58bc1ab7d5a.png

统一配置管理:

1)分布式环境下,配置文件同步非常常见。

(1)一般要求一个集群中,所有节点的配置信息是一致的,比如Kafka 集群。

(2)对配置文件修改后,希望能够快速同步到各个节点上。

2)配置管理可交由ZooKeeper实现。

(1)可将配置信息写入ZooKeeper上的一个Znode。

(2)各个客户端服务器监听这个Znode。

(3)一 旦Znode中的数据被修改,ZooKeeper将通知各个客户端服务器。

dc0944677bffb7d80c52502d2ed7dc46.png

统一集群管理:

1)分布式环境中,实时掌握每个节点的状态是必要的。

(1)可根据节点实时状态做出一些调整。

2)ZooKeeper可以实现实时监控节点状态变化

(1)可将节点信息写入ZooKeeper上的一个ZNode。

(2)监听这个ZNode可获取它的实时状态变化。

13602e4adfd029c338caee028109bcf7.png

服务器动态上下线:

b99f21d5dcc2ac41f6c3749728a45b43.png

软负载均衡:

在Zookeeper中记录每台服务器的访问数,让访问数最少的服务器去处理最新的客户端请求。

4e2b41e5606de81a01ae5b352e1f59bc.png

下载地址:

1.官网首页:

https://zookeeper.apache.org/

2.下载截图:

7a3a53d7bc8bf89f75c969234154d7d4.png

0bd0c87a23050dc924db8bc32ecbf9e3.png

737ed5872df5c21bdca34cf60f21d508.png

配置参数解读:

Zookeeper中的配置文件zoo.cfg中参数含义解读如下:

1.tickTime =2000:通信心跳数,Zookeeper 服务器与客户端心跳时间,单位毫秒Zookeeper使用的基本时间,服务器之间或客户端与服务器之间维持心跳的时间间隔,也就是每个tickTime时间就会发送一个心跳,时间单位为毫秒。

它用于心跳机制,并且设置最小的session超时时间为两倍心跳时间。(session的最小超时时间是2*tickTime)

2.initLimit =10:LF 初始通信时限集群中的Follower跟随者服务器与Leader领导者服务器之间初始连接时能容忍的最多心跳数(tickTime的数量),用它来限定集群中的Zookeeper服务器连接到Leader的时限。

3.syncLimit =5:LF 同步通信时限集群中Leader与Follower之间的最大响应时间单位,假如响应超过syncLimit * tickTime,Leader认为Follwer死掉,从服务器列表中删除Follwer。

4.

4.dataDir:数据文件目录+数据持久化路径

主要用于保存 Zookeeper 中的数据。

5.clientPort =2181:客户端连接端口

监听客户端连接的端口。

监听服务器节点动态上下线案例:

1.需求:

某分布式系统中,主节点可以有多台,可以动态上下线,任意一台客户端都能实时感知

到主节点服务器的上下线。

81b5561d0c1026d3db98b722b4be574b.png

Zookeeper 内部原理:

节点类型:

254b64b7321499fb89bbda9e7e3b3c9e.png

(1)持久化目录节点

客户端与Zookeeper断开连接后,该节点依旧存在。

(2)持久化顺序编号目录节点

客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号。

(3)临时目录节点

客户端与Zookeeper断开连接后,该节点被删除。

(4)临时顺序编号目录节点

客户端与 Zookeeper断开连接后 ,该节点被删除 ,只是Zookeeper给该节点名称进行顺序编号。

Stat 结构体:

1)czxid-创建节点的事务 zxid每次修改 ZooKeeper 状态都会收到一个 zxid 形式的时间戳,也就是 ZooKeeper 事务 ID。

事务 ID 是 ZooKeeper 中所有修改总的次序。

每个修改都有唯一的zxid,如果 zxid1小于 zxid2,那么 zxid1 在 zxid2 之前发生。

2)ctime - znode 被创建的毫秒数(从 1970 年开始)

3)mzxid - znode 最后更新的事务 zxid

4)mtime - znode 最后修改的毫秒数(从 1970 年开始)

5)pZxid-znode 最后更新的子节点 zxid

6)cversion - znode 子节点变化号,znode 子节点修改次数

7)dataversion - znode 数据变化号

8)aclVersion - znode 访问控制列表的变化号

9)ephemeralOwner- 如果是临时节点,这个是 znode 拥有者的 session id。

如果不是临时节点则是 0。

10)dataLength- znode 的数据长度

11)numChildren - znode 子节点数量

监听器原理(面试重点):

1、监听原理详解:

1)首先要有一个main()线程

2)在main线程中创建Zookeeper客户端,这时就会创建两个线程,一个负责网络连接通信(connet),一个负责监听(listener)。

3)通过connect线程将注册的监听事件发送给Zookeeper。

4)在Zookeeper的注册监听器列表中将注册的监听事件添加到列表中。

5)Zookeeper监听到有数据或路径变化,就会将这个消息发送给listener线程。

6)listener线程内部调用了process()方法。

2、常见的监听:

1)监听节点数据的变化

get path [watch]

2)监听子节点增减的变化

ls path [watch]

c77651f67246432adc425865ed293bbd.png

选举机制(面试重点):

1)半数机制:集群中半数以上机器存活,集群可用。所以 Zookeeper 适合安装奇数台服务器。

2)Zookeeper 虽然在配置文件中并没有指定 Master 和 Slave。但是,Zookeeper工作时,是有一个节点为 Leader,其他则为 Follower,Leader 是通过内部的选举机制临时产生的。

3)以一个简单的例子来说明整个选举的过程。

假设有五台服务器组成的 Zookeeper 集群,它们的 id 从 1-5,同时它们都是最新启动的,也就是没有历史数据,在存放数据量这一点上,都是一样的。

61c109bc2fd8e0907a18a95043c5d832.png

(1)服务器1启动,发起一次选举,服务器 1投自己一票,此时服务器1票数一票,不够半数以上(3 票),选举无法完成,服务器 1 状态保持为 LOOKING;

(2)服务器 2 启动,再发起一次选举。服务器 1 和 2 分别投自己一票并交换选票信息:

此时服务器 1 发现服务器 2 的 ID 比自己目前投票推举的(服务器 1)大,更改选票为推举服务器2,此时服务器 1 票数 0 票,服务器 2 票数 2 票,没有半数以上结果,选举无法完成,服务器 1,2 状态保持 LOOKING

(3)服务器 3 启动,发起一次选举。此时服务器 1 和 2 都会更改选票为服务器 3,此

次投票结果:服务器 1 为 0 票,服务器 2 为 0 票,服务器 3 为 3 票。此时服务器 3 的票数已经超过半数,服务器 3 当选 Leader。服务器 1,2 更改状态为 FOLLOWING,服务器 3 更改状态为 LEADING;

(4)服务器 4 启动,发起一次选举。此时服务器 1,2,3 已经不是 LOOKING 状态,

不会更改选票信息。交换选票信息结果:服务器 3 为 3 票,服务器 4 为 1票,此时服务器 4 服从多数,更改选票信息为服务器 3,并更改状态为 FOLLOWING;

(5)服务器 5 启动,同 4 一样当小弟。

写数据流程

be1e360a83db2a85ffce923386554771.png
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值