最全zookeeper在大数据生态的应用_运用zookeeper的大数据项目分析，耗时两个礼拜8000字大数据开发面试长文

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

#下面是默认情况下创建永久节点和获取数据的方法
[zk: localhost:2181(CONNECTED) 3] create /diaozhadi bbbbbbbb
Created /diaozhadi
[zk: localhost:2181(CONNECTED) 6] get /diaozhadi
bbbbbbbb

这样便会存在四种类型的 Znode 节点， 分别对应：




| Znode节点类型 | 说明 |
| --- | --- |
| PERSISTENT | 永久节点 |
| EPHEMERAL | 临时节点 |
| PERSISTENT\_SEQUENTIAL | 有序的永久节点 |
| EPHEMERAL\_SEQUENTIAL | 有序的临时节点 |


##### （2）节点属性


每个 znode 都包含了一系列的属性，通过命令 get， 可以获得节点的属性。

-s -e 参数表示创建一个有序的临时节点

[zk: localhost:2181(CONNECTED) 7] create -s -e /niubility 666
Created /niubility0000000039

获取数据和属性

[zk: localhost:2181(CONNECTED) 8] get /niubility0000000039
666 # 节点数据
cZxid = 0x70159 # Znode 创建的事务 id
ctime = Sun Apr 05 10:59:45 CST 2020 # 节点创建时的时间戳
mZxid = 0x70159 # Znode 被修改的事务 id
mtime = Sun Apr 05 10:59:45 CST 2020 # 节点最新一次更新发生时的时间戳
pZxid = 0x70159 # 该节点的子节点（或该节点）的最近一次 创建/删除对应
cversion = 0 # 子节点的版本号。当 znode 的子节点有变化时， cversion 的值就会增加 1
dataVersion = 0 # 数据版本号，每次对节点进行 set 操作， dataVersion 的值都会增加 1
aclVersion = 0 # ACL 的版本号
ephemeralOwner = 0x17147dcc5e3001d # 如果该节点为临时节点, ephemeralOwner 值表示与该节点绑定的 session id. 如果不是, ephemeralOwner 值为 0
dataLength = 3 # 数据长度，上面是666，所以这里是3
numChildren = 0 # 子节点个数

### 三、基本功能


#### 1.文件系统


文件系统是干嘛的？存数据用的。zk既然有文件系统的功能，自然就少不了数据的存储和管理。zk和 linux 的文件系统很像，也是**树状**，这样就可以确定每个路径都是唯一的。但是Znode又跟linux不一样，严格来说，zk的带有子节点的Znode不能当成目录，因为zk的所有Znode不管父子节点都能带数据，但linux的目录不能，**所以zk里面的路径不能叫文件夹也不能叫文件**，统一称为**Znode**，上代码来比较直观的理解下：

[zk: localhost:2181(CONNECTED) 2] create /father zhangsan
Created /father
[zk: localhost:2181(CONNECTED) 4] create /father/child lisi
Created /father/child

[zk: localhost:2181(CONNECTED) 5] get /father
zhangsan
[zk: localhost:2181(CONNECTED) 6] get /father/child
lisi

可以清晰地看到不论是父子节点，都可以存放数据。要注意的是，Zookeeper Server启动时会把所有Znode加载进内存，所以zk不适合存储太大的数据，否则造成oom，作为心脏停止跳动，后果不堪设想！后面会专门写一篇文章记录一次线上事故


**zookeeper的文件系统的特点**：


* zk的文件系统和Linux的文件系统目录结构一样，**从”/“开始**
* zk的**访问路径只有绝对路径**，没有相对路径。
* zk中没有文件和目录的概念，**只有znode节点**，Znode既有文件的功能，又有目录的功能


#### 2.集群管理


在大数据生态中，各种各样的集群需要zk维护，zk做集群管理的功能无非就两个：


##### (1) 节点的加入和退出


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200407213723896.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


首先，在zk中创建**持久节点** /GroupMembers 作为父节点，父节点监听子节点的变化，client通过注册到zk，会在/GroupMembers下创建临时节点，临时节点的特性时当客户端与zk断开连接时会自动删除，不论是创建和删除，zk server都会监听，通过Watcher监听与通知机制，并且会把变动的结果通知到到其它client，这样，其它所有client都知道了其它兄弟们的存活情况


##### (2) Master的选举


有很多应用都是master-slave架构，master必须7\*24小时工作，但是每次只能一个master在工作，这时需要一个选举机制，确定一个active状态的master，当active的master出现故障挂掉的时候，standby的master顶上去，这里主要讲zk这端的实现。Master选举的功能，其实就是各个master注册到zk的目录下，创建**临时节点**，成功在zk创建临时节点的目录，也就被选举为Master，其它备用的Master就会收到监听zk里面**临时节点**的变化，一旦删除，就会争夺创建临时节点的权利成为新的Master。


**本质其实是利用zookeeper的临时节点的特性：临时节点随着会话的消亡二消亡，同一个临时节点只能创建一个，创建失败的节点（从master）对创建成功节点（主master）进行监控，一旦创建成功的节点（主master）会话消失，之前创建失败的节点（从master）就会监听到去抢夺创建临时节点**


![在这里插入图片描述](https://img-blog.csdnimg.cn/2020040522040826.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


如上图，master1和master2为争夺上位之战，都试图在zk里面创建一个临时的Znode，但是同一个路径只能创建一次，先创建的那个被选举为Master，未创建成功的则订阅监听Znode是否存在，如果不存在，则上位成Master。上图用的是**排他锁**，**共享锁**用的是后面10位数字最小的那个作为获取锁的节点，原理都差不多，先到先得的原则。下面会具体讲这两种锁。


#### 3.分布式锁机制


**锁的定义**：用于多线程环境下控制只有一个线程可以访问某一个资源，不能多个线程同时访问，锁旨在强制实施互斥排他、并发控制策略。


**分布式锁的定义**：在分布式系统中，应用可能部署在多台机器上，应用不在同一个jvm里面，这个时候还需要维护一个互斥排他的策略，需要一个跨jvm的锁同步，为了解决跨系统、跨jvm的锁，我们就必须引入分布式锁。


*这里要搞清一个概念，所谓锁，并不是一个实际的对象或代码层面抽象存在的一种东西，锁是一种策略，这里初学者很容易搞混*


##### (1) 排他锁


排他锁，又称写锁或独占锁。如果事务T1对数据对象O1加上了排他锁，那么在整个加锁期间，只允许事务T1对O1进行读取或更新操作，其他任务事务都不能对这个数据对象进行任何操作，直到T1释放了排他锁。


排他锁核心是**保证当前有且仅有一个事务获得锁，并且锁释放之后，所有正在等待获取锁的事务都能够被通知到**。


Zookeeper 的强一致性特性，能够很好地保证在分布式高并发情况下**节点的创建一定能够保证全局唯一性**，即Zookeeper将会保证客户端无法重复创建一个已经存在的数据节点。可以利用Zookeeper这个特性，实现排他锁


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200405220426504.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


##### (2) 共享锁


共享锁，又称读锁。如果事务T1对数据对象O1加上了共享锁，那么当前事务只能对O1进行**读取操作**，其他事务也只能对这个数据对象加共享锁，直到该数据对象上的所有共享锁都被释放。


共享锁与排他锁的区别在于，加了排他锁之后，数据对象只对当前事务可见，而加了共享锁之后，数据对象对所有事务都可见


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200405220441380.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


#### 4.监听与通知机制


**Watcher机制官方解释**：一个Watch事件是一个一次性的触发器，当被设置了Watch的数据发生了改变的时候，则服务器将这个改变发送给设置了Watch的客户端，以便通知它们。


其实上面描述的很多功能都用到了watcher机制，比如master选举的Znode监听，当备用的master发现Znode已经被其它master创建后，这是备用master会注册监听这个Znode的变化。还有锁机制，毋庸置疑，也是基于监听机制上才能实现，比如释放锁的时候，需要告诉其它访问的应用这个Znode代表的锁已经释放，通知其它应用可以获取锁以进行下一步操作。


**Watcher机制的特点**：


1. 注册的监听是一次的，如果你还需要监听第二次，那么就要重新注册。数据发生改变时，一个watcher event会被发送到client，但是client只会收到一次这样的信息
2. watcher event异步发送 watcher 的通知事件从server发送到client是异步的


### 四、实际应用


#### 1.hadoop


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200405220454811.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


**Hadoop HA**：不论是namenode的HA或是yarn的HA，都通过zkfc机制来选举控制只有一个active状态的namenode和resourcemanager在工作，这里通过上面描述的master的选举功能，采用的是**排他锁**完成的选举，我们通过zk可视化客户端可以清晰地看到上图Znode的结构，yarn和hdfs的路径下各有一把锁的标记文件，同时文件的内容也带有active节点的信息。


![在这里插入图片描述](https://img-blog.csdnimg.cn/2020040522050848.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTMyODkxMTU=,size_16,color_FFFFFF,t_70#pic_center)


**yarn application容错**：在yarn上跑任务时，所有application启动时都会把application的信息写入zk里面，右边是写入的一堆序列化的二进制信息，假如这时active状态的resourcemanager突然挂了，standby的转换成active状态后会接管挂之前的application，这样resourcemanager主从的切换对正在yarn运行的application不影响。


yarn的容错机制也带来一系列问题：


1. 一个spark任务在yarn运行突然失败了，默认会重试，重试前会把上一次的driver端的信息写入zk，这时如果driver端的数据太大，比如你代码里broadcast一个很大的文件，这样很容易把zk写满写挂，直接导致zk不能工作，zk停止工作直接的代价是整个集群不能正常工作，简直毁灭性的代价，有幸经历过一次，后续会整理博客发出来
2. 如上图的application的信息存放在zk里面是持久化的节点，不会自动删除，当yarn的历史任务运行太多的时候，zk里面会存一堆的application的历史信息，导致zk的内存占用越来越大，也影响性能，需要写脚本手工清除


#### 2.hbase


zk在hbase应用的功能主要两个：


1. hbase regionserver 向zookeeper注册，提供hbase regionserver状态信息（是否在线），HMaster通过watcher监听regionserver的存活情况，并不是HMaster跟Regionserver通过心跳机制检测。
2. HMaster启动时候会将hbase系统表-ROOT- 加载到 zookeeper cluster，通过zookeeper cluster可以获取当前系统表.META.的存储所对应的regionserver信息




![img](https://img-blog.csdnimg.cn/img_convert/3a22e57ef6a9a19e1b9954b635b964d9.png)
![img](https://img-blog.csdnimg.cn/img_convert/c895077d43d903834fb7cf7e069681b5.png)
![img](https://img-blog.csdnimg.cn/img_convert/0c46ce70e4fced00c5177c3e579ae5af.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**

小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**