zookeeper进阶（watcher机制、数据同步流程、分布式锁）

目录

一、Zookeeper watcher 事件机制原理剖析

1、客户端发送事件通知请求

2、服务端处理 watcher 事件的请求

3、服务端触发 watcher 事件流程：

4、客户端回调 watcher 事件

二、 Zookeeper 数据同步流程

三、Zookeeper 分布式锁实现原理

---

一、Zookeeper watcher 事件机制原理剖析

整个watcher事件机制，分为客户端注册、服务端处理、服务端触发通知、客户端回调四个过程。

其中客户端注册 watcher 有三种方式，调用客户端 API 可以分别通过 getData、exists、getChildren 实现，，以 exists 方法举例说明其原理

Java public class WatcherDemo implements Watcher {     static ZooKeeper zooKeeper;     static {         try {             zooKeeper = new ZooKeeper("192.168.1.1:2181", 4000,new WatcherDemo());         } catch (IOException e) {             e.printStackTrace();         }     }     @Override     public void process(WatchedEvent event) {         System.out.println("eventType:"+event.getType());         if(event.getType()==Event.EventType.NodeDataChanged){             try {                 zooKeeper.exists(event.getPath(),true);             } catch (KeeperException e) {                 e.printStackTrace();             } catch (InterruptedException e) {                 e.printStackTrace();             }         }     }     public static void main(String[] args) throws IOException, KeeperException, InterruptedException {         String path="/watcher";         if(zooKeeper.exists(path,false)==null) {             zooKeeper.create("/watcher", "0".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);         }         Thread.sleep(1000);         System.out.println("-----------");         //true表示使用zookeeper实例中配置的watcher         Stat stat=zooKeeper.exists(path,true);         System.in.read();     } }

运行完程序，控制台显示:

此时启动 zookeeper 命令行终端，查看并且删除 watcher 节点：

IDE 控制台输出，触发了节点删除事件：

客户端发送请求给服务端是通过 TCP 长连接建立网络通道，底层默认是通过 java 的 NIO 方式，也可以配置 netty 实现方式。

注册 watcher 监听事件流程图：

1、客户端发送事件通知请求

在 Zookeeper 类调用 exists 方法时候，把创建事件监听封装到 request 对象中，watch 属性设置为 true，待服务端返回 response 后把监听事件封装到客户端的 ZKWatchManager 类中。

2、服务端处理 watcher 事件的请求

服务端 NIOServerCnxn 类用来处理客户端发送过来的请求，最终调用到 FinalRequestProcessor，其中有一段源码添加客户端发送过来的 watcher 事件：

然后进入 statNode 方法，在 DataTree 类方法中添加 watcher 事件，并保存至 WatchManager 的 watchTable 与 watchTable 中。

3、服务端触发 watcher 事件流程：

若服务端某个被监听的节点发生事务请求，服务端处理请求过程中调用 FinalRequestProcessor 类 processRequest 方法中的代码如下所示：

删除调用链最终到 DataTree 类中删除节点分支的触发代码段:

进入 WatchManager 类的 triggerWatch 方法:

继续跟踪进入 NIOServerCnxn，构建了一个 xid 为 -1，zxid 为 -1 的 ReplyHeader 对象，然后再调用 sendResonpe 方法。

4、客户端回调 watcher 事件

客户端 SendThread 类 readResponse 方法接收服务端触发的事件通知，进入 xid 为 -1 流程，处理 Event 事件。

二、 Zookeeper 数据同步流程

在 Zookeeper 中，主要依赖 ZAB 协议来实现分布式数据一致性。ZAB 协议分为两部分：消息广播、崩溃恢复。

消息广播

Zookeeper 使用单一的主进程 Leader 来接收和处理客户端所有事务请求，并采用 ZAB 协议的原子广播协议，将事务请求以 Proposal 提议广播到所有 Follower 节点，当集群中有过半的Follower 服务器进行正确的 ACK 反馈，那么Leader就会再次向所有的 Follower 服务器发送commit 消息，将此次提案进行提交。这个过程可以简称为 2pc 事务提交，整个流程可以参考下图，注意 Observer 节点只负责同步 Leader 数据，不参与 2PC 数据同步过程。

崩溃恢复

在正常情况消息广播情况下能运行良好，但是一旦 Leader 服务器出现崩溃，或者由于网络原理导致 Leader 服务器失去了与过半 Follower 的通信，那么就会进入崩溃恢复模式，需要选举出一个新的 Leader 服务器。在这个过程中可能会出现两种数据不一致性的隐患，需要 ZAB 协议的特性进行避免。

• 1、Leader 服务器将消息 commit 发出后，立即崩溃

• 2、Leader 服务器刚提出 proposal 后，立即崩溃

ZAB 协议的恢复模式使用了以下策略：

• 1、选举 zxid 最大的节点作为新的 leader

• 2、新 leader 将事务日志中尚未提交的消息进行处理

三、Zookeeper 分布式锁实现原理

分布式锁是控制分布式系统之间同步访问共享资源的一种方式。下面介绍 zookeeper 如何实现分布式锁，讲解排他锁和共享锁两类分布式锁。

排他锁

排他锁（Exclusive Locks），又被称为写锁或独占锁，如果事务T1对数据对象O1加上排他锁，那么整个加锁期间，只允许事务T1对O1进行读取和更新操作，其他任何事务都不能进行读或写。

定义锁：

/exclusive_lock/lock

实现方式：

利用 zookeeper 的同级节点的唯一性特性，在需要获取排他锁时，所有的客户端试图通过调用 create() 接口，在 /exclusive_lock 节点下创建临时子节点 /exclusive_lock/lock，最终只有一个客户端能创建成功，那么此客户端就获得了分布式锁。同时，所有没有获取到锁的客户端可以在 /exclusive_lock 节点上注册一个子节点变更的 watcher 监听事件，以便重新争取获得锁。

共享锁

共享锁（Shared Locks），又称读锁。如果事务T1对数据对象O1加上了共享锁，那么当前事务只能对O1进行读取操作，其他事务也只能对这个数据对象加共享锁，直到该数据对象上的所有共享锁都释放。

定义锁:

/shared_lock/[hostname]-请求类型W/R-序号

实现方式：

1、客户端调用 create 方法创建类似定义锁方式的临时顺序节点。

2、客户端调用 getChildren 接口来获取所有已创建的子节点列表。

3、判断是否获得锁，对于读请求如果所有比自己小的子节点都是读请求或者没有比自己序号小的子节点，表明已经成功获取共享锁，同时开始执行度逻辑。对于写请求，如果自己不是序号最小的子节点，那么就进入等待。

4、如果没有获取到共享锁，读请求向比自己序号小的最后一个写请求节点注册 watcher 监听，写请求向比自己序号小的最后一个节点注册watcher 监听。

实际开发过程中，可以 curator 工具包封装的API帮助我们实现分布式锁。

<dependency>   <groupId>org.apache.curator</groupId>   <artifactId>curator-recipes</artifactId>   <version>x.x.x</version> </dependency>

curator 的几种锁方案 ：

• 1、InterProcessMutex：分布式可重入排它锁

• 2、InterProcessSemaphoreMutex：分布式排它锁

• 3、InterProcessReadWriteLock：分布式读写锁

下面例子模拟 50 个线程使用重入排它锁 InterProcessMutex 同时争抢锁：

实例 public class InterprocessLock {     public static void main(String[] args)  {         CuratorFramework zkClient = getZkClient();         String lockPath = "/lock";         InterProcessMutex lock = new InterProcessMutex(zkClient, lockPath);         //模拟50个线程抢锁         for (int i = 0; i < 50; i++) {             new Thread(new TestThread(i, lock)).start();         }     }     static class TestThread implements Runnable {         private Integer threadFlag;         private InterProcessMutex lock;         public TestThread(Integer threadFlag, InterProcessMutex lock) {             this.threadFlag = threadFlag;             this.lock = lock;         }         @Override         public void run() {             try {                 lock.acquire();                 System.out.println("第"+threadFlag+"线程获取到了锁");                 //等到1秒后释放锁                 Thread.sleep(1000);             } catch (Exception e) {                 e.printStackTrace();             }finally {                 try {                     lock.release();                 } catch (Exception e) {                     e.printStackTrace();                 }             }         }     }     private static CuratorFramework getZkClient() {         String zkServerAddress = "192.168.3.39:2181";         ExponentialBackoffRetry retryPolicy = new ExponentialBackoffRetry(1000, 3, 5000);         CuratorFramework zkClient = CuratorFrameworkFactory.builder()                 .connectString(zkServerAddress)                 .sessionTimeoutMs(5000)                 .connectionTimeoutMs(5000)                 .retryPolicy(retryPolicy)                 .build();         zkClient.start();         return zkClient;     } }

控制台每间隔一秒钟输出一条记录：

快速入门教程https://blog.csdn.net/wanghaiping1993/article/details/125325034