Zookeeper从入门到精通

爱吃biangbiang面

已于 2022-12-31 09:55:06 修改

阅读量196

点赞数

分类专栏： zookeeper 文章标签： java-zookeeper zookeeper java

于 2022-12-28 22:51:33 首次发布

本文链接：https://blog.csdn.net/weixin_44680802/article/details/128471456

版权

zookeeper 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

初识 Zookeeper

ZooKeeper 安装与配置

•Zookeeper 是 Apache Hadoop 项目下的一个子项目，是一个树形目录服务。

•Zookeeper 翻译过来就是动物园管理员，他是用来管 Hadoop （大象）、 Hive( 蜜蜂 ) 、 Pig( 小猪 ) 的管理员。简称zk

•Zookeeper 是一个分布式的、开源的分布式应用程序的协调服务。

•Zookeeper 提供的主要功能包括：

• 配置管理

• 分布式锁

• 集群管理

ZooKeeper 安装与配置

环境准备

ZooKeeper 服务器是用 Java 创建的，它运行在 JVM 之上。需要安装 JDK 7 或更高版本。

上传

zookeeper安装包，内涵安装步骤和应用手册-Java文档类资源-CSDN下载zookeeper安装包，内涵安装步骤和应用手册更多下载资源、学习资料请访问CSDN下载频道.

https://download.csdn.net/download/weixin_44680802/87352001（没有积分下载的话，评论区留下email，免费发你）

将下载的 ZooKeeper 放到 /opt/ZooKeeper 目录下

#上传zookeeper alt+p
put f:/setup/apache-zookeeper-3.5.6-bin.tar.gz
#打开 opt目录
cd /opt
#创建zooKeeper目录
mkdir zooKeeper
#将zookeeper安装包移动到 /opt/zooKeeper
mv apache-zookeeper-3.5.6-bin.tar.gz /opt/zookeeper/

解压

将 tar 包解压到 /opt/zookeeper 目录下

tar -zxvf apache-ZooKeeper-3.5.6-bin.tar.gz

配置 zoo.cfg

进入到 conf 目录拷贝一个 zoo_sample.cfg 并完成配置

#进入到conf目录
cd /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/conf/
#拷贝
cp zoo_sample.cfg zoo.cfg

修改 zoo.cfg

#打开目录
cd /opt/zooKeeper/
#创建zooKeeper存储目录
mkdir zkdata
#修改zoo.cfg
vim /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/conf/zoo.cfg

修改存储目录： dataDir=/opt/zookeeper/zkdata

启动 ZooKeeper

cd /opt/zooKeeper/apache-zooKeeper-3.5.6-bin/bin/
#启动
./zkServer.sh start

查看 ZooKeeper 状态

./zkServer.sh status

zookeeper 启动成功。 standalone 代表 zk 没有搭建集群，现在是单节点

ZooKeeper 命令操作

Zookeeper 命令操作数据模型

•ZooKeeper 是一个树形目录服务 , 其数据模型和 Unix 的文件系统目录树很类似，拥有一个层次化结构。

• 这里面的每一个节点都被称为： ZNode ，每个节点上都会保存自己的数据和节点信息。

• 节点可以拥有子节点，同时也允许少量（ 1MB ）数据存储在该节点之下。

• 节点可以分为四大类：

•PERSISTENT 持久化节点

•EPHEMERAL 临时节点： -e

•PERSISTENT_SEQUENTIAL 持久化顺序节点： -s

•EPHEMERAL_SEQUENTIAL 临时顺序节点： -es

Zookeeper 命令操作服务端命令

• 启动 ZooKeeper 服务 : ./zkServer.sh start

• 查看 ZooKeeper 服务状态 : ./zkServer.sh status

• 停止 ZooKeeper 服务 : ./zkServer.sh stop

• 重启 ZooKeeper 服务 : ./zkServer.sh restart

Zookeeper 客户端常用命令

连接 ZooKeeper 服务端

./zkCli.sh –server ip:port

断开连接

quit

查看命令帮助

help

显示指定目录下节点

ls 目录

创建节点

create /节点path value

获取节点值

get /节点path

设置节点值

set /节点path value

删除单个节点

delete /节点path

删除带有子节点的节点

deleteall /节点path

创建临时节点

create -e /节点path value

创建顺序节点

create -s /节点path value

查询节点详细信息

ls –s /节点path

czxid：节点被创建的事务ID
ctime: 创建时间
mzxid: 最后一次被更新的事务ID
mtime: 修改时间
pzxid：子节点列表最后一次被更新的事务ID
cversion：子节点的版本号
dataversion：数据版本号
aclversion：权限版本号
ephemeralOwner：用于临时节点，代表临时节点的事务ID，如果为持久节点则为0
dataLength：节点存储的数据的长度
numChildren：当前节点的子节点个数

ZooKeeper JavaAPI

urator 介绍

•Curator 是 Apache ZooKeeper 的 Java 客户端库。

• 常见的 ZooKeeper Java API ：

• 原生 Java API

•ZkClient

•Curator

•Curator 项目的目标是简化 ZooKeeper 客户端的使用。

•Curator 最初是 Netfix 研发的 , 后来捐献了 Apache 基金会 , 目前是 Apache 的顶级项目。

• 官网： http://curator.apache.org/

JavaAPI 操作建立连接

搭建项目

创建项目 curator-zk

引入 pom 和日志文件

资料文件夹下 pom.xml 和 log4j.properties

创建测试类，使用 curator 连接 zookeeper

@Before
public void testConnect() {
//重试策略
RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);
//2.第二种方式
//CuratorFrameworkFactory.builder();
client = CuratorFrameworkFactory.builder()
.connectString("192.168.200.130:2181")
.sessionTimeoutMs(60 * 1000)
.connectionTimeoutMs(15 * 1000)
.retryPolicy(retryPolicy)
.namespace("itheima")
.build();
//开启连接
client.start();
}

Zookeeper JavaAPI 操作 - 创建节点

/**
* 创建节点：create 持久 临时 顺序 数据
* 1. 基本创建 ：create().forPath("")
* 2. 创建节点 带有数据:create().forPath("",data)
* 3. 设置节点的类型：create().withMode().forPath("",data)
* 4. 创建多级节点 /app1/p1 ：create().creatingParentsIfNeeded().forPath("",data)
*/
@Test
public void testCreate() throws Exception {
//2. 创建节点 带有数据
//如果创建节点，没有指定数据，则默认将当前客户端的ip作为数据存储
String path = client.create().forPath("/app2", "hehe".getBytes());
System.out.println(path);
}
@Test
public void testCreate2() throws Exception {
//1. 基本创建
//如果创建节点，没有指定数据，则默认将当前客户端的ip作为数据存储
String path = client.create().forPath("/app1");
System.out.println(path);
}
@Test
public void testCreate3() throws Exception {
//3. 设置节点的类型
//默认类型：持久化
String path =
client.create().withMode(CreateMode.EPHEMERAL).forPath("/app3");
System.out.println(path);
}
@Test
public void testCreate4() throws Exception {
//4. 创建多级节点 /app1/p1
//creatingParentsIfNeeded():如果父节点不存在，则创建父节点
String path = client.create().creatingParentsIfNeeded().forPath("/app4/p1");
System.out.println(path);
}

ZookeeperJavaAPI 操作 - 查询节点

/**
* 查询节点：
* 1. 查询数据：get: getData().forPath()
* 2. 查询子节点： ls: getChildren().forPath()
* 3. 查询节点状态信息：ls -s:getData().storingStatIn(状态对象).forPath()
*/
@Test
public void testGet1() throws Exception {
//1. 查询数据：get
byte[] data = client.getData().forPath("/app1");
System.out.println(new String(data));
}
@Test
public void testGet2() throws Exception {
// 2. 查询子节点： ls
List<String> path = client.getChildren().forPath("/");
System.out.println(path);
}
@Test
public void testGet3() throws Exception {
Stat status = new Stat();
System.out.println(status);
//3. 查询节点状态信息：ls -s
client.getData().storingStatIn(status).forPath("/app1");
System.out.println(status);
}

Zookeeper JavaAPI 操作 - 修改节点

/**
* 修改数据
* 1. 基本修改数据：setData().forPath()
* 2. 根据版本修改: setData().withVersion().forPath()
* * version 是通过查询出来的。目的就是为了让其他客户端或者线程不干扰我。
*
* @throws Exception
*/
@Test
public void testSet() throws Exception {
client.setData().forPath("/app1", "itcast".getBytes());
}
@Test
public void testSetForVersion() throws Exception {
Stat status = new Stat();
//3. 查询节点状态信息：ls -s
client.getData().storingStatIn(status).forPath("/app1");
int version = status.getVersion();//查询出来的 3
System.out.println(version);
client.setData().withVersion(version).forPath("/app1", "hehe".getBytes());
}

Zookeeper JavaAPI 操作 - 删除节点

/**
* 删除节点： delete deleteall
* 1. 删除单个节点:delete().forPath("/app1");
* 2. 删除带有子节点的节点:delete().deletingChildrenIfNeeded().forPath("/app1");
* 3. 必须成功的删除:为了防止网络抖动。本质就是重试。
client.delete().guaranteed().forPath("/app2");
* 4. 回调：inBackground
* @throws Exception
*/
@Test
public void testDelete() throws Exception {
// 1. 删除单个节点
client.delete().forPath("/app1");
}
@Test
public void testDelete2() throws Exception {
//2. 删除带有子节点的节点
client.delete().deletingChildrenIfNeeded().forPath("/app4");
}
@Test
public void testDelete3() throws Exception {
//3. 必须成功的删除
client.delete().guaranteed().forPath("/app2");
}
@Test
public void testDelete4() throws Exception {
//4. 回调
client.delete().guaranteed().inBackground(new BackgroundCallback(){
@Override
public void processResult(CuratorFramework client, CuratorEvent event)
throws Exception {
System.out.println("我被删除了~");
System.out.println(event);
}
}).forPath("/app1");
}

Zookeeper JavaAPI 操作 -Watch 监听概述

•ZooKeeper 允许用户在指定节点上注册一些 Watcher ，并且在一些特定事件触发的时候， ZooKeeper

服务端会将事件通知到感兴趣的客户端上去，该机制是 ZooKeeper 实现分布式协调服务的重要特性。

•ZooKeeper 中引入了 Watcher 机制来实现了发布 / 订阅功能能，能够让多个订阅者同时监听某一个对

象，当一个对象自身状态变化时，会通知所有订阅者。

•ZooKeeper 原生支持通过注册 Watcher 来进行事件监听，但是其使用并不是特别方便

需要开发人员自己反复注册 Watcher ，比较繁琐。

•Curator 引入了 Cache 来实现对 ZooKeeper 服务端事件的监听。

•ZooKeeper 提供了三种 Watcher ：

•NodeCache : 只是监听某一个特定的节点

•PathChildrenCache : 监控一个 ZNode 的子节点 .

•TreeCache : 可以监控整个树上的所有节点，类似于 PathChildrenCache 和 NodeCache 的组合

Zookeeper JavaAPI 操作 -Watch 监听 -NodeCache

/**
* 演示 NodeCache：给指定一个节点注册监听器
*/
@Test
public void testNodeCache() throws Exception {
//1. 创建NodeCache对象
final NodeCache nodeCache = new NodeCache(client,"/app1");
//2. 注册监听
nodeCache.getListenable().addListener(new NodeCacheListener() {
@Override
public void nodeChanged() throws Exception {
System.out.println("节点变化了~");
//获取修改节点后的数据
byte[] data = nodeCache.getCurrentData().getData();
System.out.println(new String(data));
}
});
//3. 开启监听.如果设置为true，则开启监听是，加载缓冲数据
nodeCache.start(true);
while (true){
}
}

Zookeeper JavaAPI 操作 -Watch 监听 -PathChildrenCache

@Test
public void testPathChildrenCache() throws Exception {
//1.创建监听对象
PathChildrenCache pathChildrenCache = new
PathChildrenCache(client,"/app2",true);
//2. 绑定监听器
pathChildrenCache.getListenable().addListener(new
PathChildrenCacheListener() { @Override
public void childEvent(CuratorFramework client, PathChildrenCacheEvent
event) throws Exception {
System.out.println("子节点变化了~");
System.out.println(event);
//监听子节点的数据变更，并且拿到变更后的数据
//1.获取类型
PathChildrenCacheEvent.Type type = event.getType();
//2.判断类型是否是update
if(type.equals(PathChildrenCacheEvent.Type.CHILD_UPDATED)){
System.out.println("数据变了！！！");
byte[] data = event.getData().getData();
System.out.println(new String(data));
}
}
});
//3. 开启
pathChildrenCache.start();
while (true){
}
}

Zookeeper JavaAPI 操作 -Watch 监听 -TreeCache

/**
* 演示 TreeCache：监听某个节点自己和所有子节点们
*/
@Test
public void testTreeCache() throws Exception {
//1. 创建监听器
TreeCache treeCache = new TreeCache(client,"/app2");
//2. 注册监听
treeCache.getListenable().addListener(new TreeCacheListener() {
@Override
public void childEvent(CuratorFramework client, TreeCacheEvent event)
throws Exception {
System.out.println("节点变化了");
System.out.println(event);
}
});
//3. 开启
treeCache.start();
while (true){
}
}

Zookeeper 分布式锁 - 概念

• 在我们进行单机应用开发，涉及并发同步的时候，我们往往采用 synchronized 或者 Lock 的方式来解决

多线程间的代码同步问题，这时多线程的运行都是在同一个 JVM 之下，没有任何问题。

• 但当我们的应用是分布式集群工作的情况下，属于多 JVM 下的工作环境，跨 JVM 之间已经无法通过多线

程的锁解决同步问题。

• 那么就需要一种更加高级的锁机制，来处理种跨机器的进程之间的数据同步问题 —— 这就是分布式锁。

Zookeeper 分布式锁-zookeeper分布式锁原理

• 核心思想：当客户端要获取锁，则创建节点，使用完锁，则删除该节点。

1. 客户端获取锁时，在 lock 节点下创建临时顺序节点。

2. 然后获取 lock 下面的所有子节点，客户端获取到所有的子节点之后，如果发现自己创建的子节点序号最小，那么就认为该客户端获取到了锁。使用完锁后，将该节点删除。

3. 如果发现自己创建的节点并非 lock 所有子节点中最小的，说明自己还没有获取到锁，此时客户端需要找到比自己小的那个节点，同时对其注册事件监听器，监听删除事件。

4. 如果发现比自己小的那个节点被删除，则客户端的 Watcher会收到相应通知，此时再次判断自己创建的节点是否是lock 子节点中序号最小的，如果是则获取到了锁，如果不是则重复以上步骤继续获取到比自己小的一个节点并注册监听。

Zookeeper 分布式锁 - 模拟 12306 售票案例， Curator 实现分布式锁 API

在 Curator 中有五种锁方案：

InterProcessSemaphoreMutex：分布式排它锁（非可重入锁）
InterProcessMutex：分布式可重入排它锁
InterProcessReadWriteLock：分布式读写锁
InterProcessMultiLock：将多个锁作为单个实体管理的容器
InterProcessSemaphoreV2：共享信号量

创建线程进行加锁设置

public class Ticket12306 implements Runnable{
private int tickets = 10;//数据库的票数
private InterProcessMutex lock ;
@Override
public void run() {
while(true){
//获取锁
try {
lock.acquire(3, TimeUnit.SECONDS);
if(tickets > 0){
System.out.println(Thread.currentThread()+":"+tickets);
Thread.sleep(100);
tickets--;
}
} catch (Exception e) {
e.printStackTrace();
}finally {
//释放锁
try {
lock.release();
} catch (Exception e) {
e.printStackTrace();
}
}
}
}
}

创建连接，并且初始化锁

public Ticket12306(){
//重试策略
RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);
//2.第二种方式
//CuratorFrameworkFactory.builder();
CuratorFramework client = CuratorFrameworkFactory.builder()
.connectString("192.168.149.135:2181")
.sessionTimeoutMs(60 * 1000)
.connectionTimeoutMs(15 * 1000)
.retryPolicy(retryPolicy)
.build();
//开启连接
client.start();
lock = new InterProcessMutex(client,"/lock");
}

运行多个线程进行测试

public class LockTest {
public static void main(String[] args) {
Ticket12306 ticket12306 = new Ticket12306();
//创建客户端
Thread t1 = new Thread(ticket12306,"携程");
Thread t2 = new Thread(ticket12306,"飞猪");
t1.start();
t2.start();
}
}

ZooKeeper 集群搭建

Zookeeper集群介绍

Leader 选举：

•Serverid ：服务器 ID

比如有三台服务器，编号分别是 1,2,3 。

编号越大在选择算法中的权重越大。

•Zxid ：数据 ID

服务器中存放的最大数据 ID. 值越大说明数据越新，在选举算法中数据越新权重越大。

• 在 Leader 选举的过程中，如果某台 ZooKeeper

获得了超过半数的选票，

则此 ZooKeeper 就可以成为 Leader 了。

搭建要求

（1）安装 JDK 【此步骤省略】。

（2） Zookeeper 压缩包上传到服务器

（3）将 Zookeeper 解压，建立 /usr/local/zookeeper-cluster 目录，将解压后的 Zookeeper 复制到以下三个目录

/usr/local/zookeeper-cluster/zookeeper-1

/usr/local/zookeeper-cluster/zookeeper-2

/usr/local/zookeeper-cluster/zookeeper-3

创建data目录，并且将 conf下zoo_sample.cfg 文件改名为 zoo.cfg

mkdir /usr/local/zookeeper-cluster/zookeeper-1/data
mkdir /usr/local/zookeeper-cluster/zookeeper-2/data
mkdir /usr/local/zookeeper-cluster/zookeeper-3/data
mv /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo_sample.cfg
/usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg
mv /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo_sample.cfg
/usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg
mv /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo_sample.cfg
/usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

配置每一个 Zookeeper 的 dataDir 和 clientPort 分别为 2181 2182 2183

修改/usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg
clientPort=2181
dataDir=/usr/local/zookeeper-cluster/zookeeper-1/data

修改 /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg
clientPort=2182
dataDir=/usr/local/zookeeper-cluster/zookeeper-2/data

修改 /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg

vim /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg
clientPort=2183
dataDir=/usr/local/zookeeper-cluster/zookeeper-3/data

配置集群

在每个 zookeeper 的 data 目录下创建一个 myid 文件，内容分别是 1 、 2 、 3 。这个文件就是记录

每个服务器的 ID

echo 1 >/usr/local/zookeeper-cluster/zookeeper-1/data/myid
echo 2 >/usr/local/zookeeper-cluster/zookeeper-2/data/myid
echo 3 >/usr/local/zookeeper-cluster/zookeeper-3/data/myid

在每一个 zookeeper 的 zoo.cfg 配置客户端访问端口（ clientPort ）和集群服务器 IP 列表。集群服务器IP 列表如下

vim /usr/local/zookeeper-cluster/zookeeper-1/conf/zoo.cfg
vim /usr/local/zookeeper-cluster/zookeeper-2/conf/zoo.cfg
vim /usr/local/zookeeper-cluster/zookeeper-3/conf/zoo.cfg
server.1=192.168.149.135:2881:3881
server.2=192.168.149.135:2882:3882
server.3=192.168.149.135:2883:3883

解释： server. 服务器 ID= 服务器 IP 地址：服务器之间通信端口：服务器之间投票选举端口

启动集群

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh start
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh start
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh start

启动后我们查询一下每个实例的运行状态

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status
/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh status

模拟集群异常

首先我们先测试如果是从服务器挂掉，会怎么样把3 号服务器停掉，观察 1 号和 2 号，发现状态并没有变化

/usr/local/zookeeper-cluster/zookeeper-3/bin/zkServer.sh stop

/usr/local/zookeeper-cluster/zookeeper-1/bin/zkServer.sh status

/usr/local/zookeeper-cluster/zookeeper-2/bin/zkServer.sh status

3 个节点的集群，从服务器挂掉，集群正常

3 个节点的集群， 2 个从服务器都挂掉，主服务器也无法运行。因为可运行的机器没有超

过集群总数量的半数。

当领导者产生后，再次有新服务器加入集群，不会影响到现任领导者

Zookeeper 核心理论

在 ZooKeeper 集群服中务中有三个角色：

•Leader 领导者：