阿里云服务器上部署zookeeper 3.6.3（3）- 集群模式篇

最新推荐文章于 2023-04-28 13:48:34 发布
最新推荐文章于 2023-04-28 13:48:34 发布
阅读量5.3w 收藏 4
点赞数 1
分类专栏： Zookeeper 文章标签： zookeeper zookeeper集群模式 Zookeeper工作原理 zookeeper选举机制
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dingjianmin/article/details/121274458
版权

伪集群模式

这里我们采用的是伪集群模式，一台机器上三个节点，集群模式是一台机器上一个节点。之所以称伪集群，就是这台机器挂了，集群也就没了。集群与伪集群的方式完全一样的。

Zookeeper工作原理

在zookeeper的集群中，各个节点共有下面3种角色和4种状态：

角色：leader,follower,observer

状态：leading,following,observing,looking

Zookeeper的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议（ZooKeeper Atomic Broadcast protocol）。

Zab协议有两种模式，它们分别是恢复模式（Recovery选主）和广播模式（Broadcast同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上了zxid。实现中zxid是一个64位的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数。

每个Server在工作过程中有4种状态：

LOOKING：当前Server不知道leader是谁，正在搜寻。

LEADING：当前Server即为选举出来的leader。

FOLLOWING：leader已经选举出来，当前Server与之同步。

OBSERVING：observer的行为在大多数情况下与follower完全一致，但是他们不参加选举和投票，而仅仅接受(observing)选举和投票的结果。

选举机制

  • 1、半数机制：集群中半数以上机器存活，集群可用。所以Zookeeper适合安装奇数台服务器。

  • 2、需要给每个zookeeper 1G左右的内存，如果可能的话，最好有独立的磁盘，因为独立磁盘可以确保zookeeper是高性能的。如果你的集群负载很重，不要把zookeeper和RegionServer运行在同一台机器上面，就像DataNodes和TaskTrackers一样。

  • 3、Zookeeper虽然在配置文件中并没有指定Master和Slave。但是，Zookeeper工作时，是有一个节点为Leader，其他则为Follower，Leader是通过内部的选举机制临时产生的。

  • 4、以一个简单的例子来说明整个选举的过程。 假设有五台服务器组成的Zookeeper集群，它们的id从1-5，同时它们都是最新启动的，也就是没有历史数据，在存放数据量这一点上，都是一样的。假设这些服务器依序启动，来看看会发生什么，如图

img

  • 1、服务器1启动，此时只有它一台服务器启动了，它发出去的报文没有任何响应，所以它的选举状态一直是LOOKING状态。

  • 2、服务器2启动，它与最开始启动的服务器1进行通信，互相交换自己的选举结果，由于两者都没有历史数据，所以id值较大的服务器2胜出，但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3)，所以服务器1、2还是继续保持LOOKING状态。

  • 3、服务器3启动，根据前面的理论分析，服务器3成为服务器1、2、3中的老大，而与上面不同的是，此时有三台服务器选举了它，所以它成为了这次选举的Leader。

  • 4、服务器4启动，根据前面的分析，理论上服务器4应该是服务器1、2、3、4中最大的，但是由于前面已经有半数以上的服务器选举了服务器3，所以它只能接收当小弟的命了。

  • 5、服务器5启动，同4一样当小弟。

集群规划

机器编号Ip 地址端口
apache-zookeeper-01127.0.0.12181
apache-zookeeper-02127.0.0.12182
apache-zookeeper-03127.0.0.12183
# 解压移动重命名
mkdir -p /data/zk/
tar xf apache-zookeeper-3.6.3-bin.tar.gz
mv apache-zookeeper-3.6.3-bin /data/zk/zookeeper1
cp -r /data/zk/zookeeper1 /data/zk/zookeeper2
cp -r /data/zk/zookeeper1 /data/zk/zookeeper3
​
# 创建节点存放的数据和日志目录和myid标示
mkdir -p /data/zkdata/zkdata1/logs
mkdir -p /data/zkdata/zkdata2/logs
mkdir -p /data/zkdata/zkdata3/logs
​
echo "1" > /data/zkdata/zkdata1/myid
echo "2" > /data/zkdata/zkdata1/myid
echo "3" > /data/zkdata/zkdata1/myid
​
# 配置文件(基本默认不动，只用修改数据目录和日志目录和添加下server节点)
cd /data/zk/zookeeper1/
cp conf/zoo_sample.cfg conf/zoo.cfg
​
cd /data/zk/zookeeper2/
cp conf/zoo_sample.cfg conf/zoo.cfg
​
cd /data/zk/zookeeper3/
cp conf/zoo_sample.cfg conf/zoo.cfg

节点配置文件修改

# zookeeper3.5版本后提供了jetty默认后台管理8080端口，访问地址为：http://localhost:8081/commands/stat
# 同一台机器上启动多个节点会有冲突,解决办法：
# 启动脚本中修改 -Dzookeeper.admin.serverPort=xxx
# zoo.cfg配置文件中 修改配置admin.serverPort=xxx
# -Dzookeeper.admin.enableServer=false 在启动脚本中关闭管理控制台
​
# 修改节点1配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata1/
dataLogDir=/data/zkdata/zkdata1/logs
clientPort=2181
admin.serverPort=8081
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883
​
# 修改节点2配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata2/
dataLogDir=/data/zkdata/zkdata2/logs
clientPort=2182
admin.serverPort=8082
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883
​
# 修改节点3配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata3/
dataLogDir=/data/zkdata/zkdata3/logs
clientPort=2183
admin.serverPort=8083
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883

分别启动zookeeper的3个节点

# 启动
/data/zk/zookeeper1/bin/zkServer.sh start
/data/zk/zookeeper2/bin/zkServer.sh start
/data/zk/zookeeper3/bin/zkServer.sh start
​
# 查看状态
/data/zk/zookeeper1/bin/zkServer.sh status
/data/zk/zookeeper2/bin/zkServer.sh status
/data/zk/zookeeper3/bin/zkServer.sh status
​
# 停止
/data/zk/zookeeper1/bin/zkServer.sh stop
/data/zk/zookeeper2/bin/zkServer.sh stop
/data/zk/zookeeper3/bin/zkServer.sh stop
​
# 重启
/data/zk/zookeeper1/bin/zkServer.sh restart
/data/zk/zookeeper2/bin/zkServer.sh restart
/data/zk/zookeeper3/bin/zkServer.sh restart

多机联合测试

c1运行结果：

[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: leader

c2运行结果：

[root@cas zookeeper]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

c3运行结果：

[root@localhost zookeeper]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

同步测试

c1上执行：create /c1project c1projecttest 和 get /c1project

[zk: c1:2181(CONNECTED) 2] create /c1project c1projecttest
Created /c1project
[zk: c1:2181(CONNECTED) 1] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

c2上查看同步结果：get /c1project

[zk: c2:2181(CONNECTED) 0] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

c3上查看同步结果： get /c1project

[zk: c3:2181(CONNECTED) 4] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

此时说明zookeeper集群配置成功。

从节点主动升级和接管成为主节点

leader和follower的自动切换，前面我们知道c1是leader，当leader down掉后是否有从节点升级为leader。

c1上执行

/var/local/server/zookeeper/bin/zkServer.sh stop

c2上查看状态

[root@cas ~]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

可以发现c2仍然为从节点

再看看c3

[root@localhost ~]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: leader

此时c3升级为了主节点。

再次启动c1，并查看状态

[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh start
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[root@sso conf]#
[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

发现c1作为了从节点。

每天努力一点，每天都在进步。

powerfuler
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
apache-zookeeper-3.6.3-bin.tar的压缩包，解压到本地即可使用，还有zk.sh的脚本以及zoo.cfg
06-18
apache-zookeeper-3.6.3-bin.tar的压缩包，解压到本地即可使用，还有zk.sh的脚本以及zoo.cfg和xsync。ZooKeeper 是一个分布式协调服务 ，由 Apache 进行维护。ZooKeeper 可以视为一个高可用的文件系统。ZooKeeper 可以用于发布/订阅、负载均衡、命令服务、分布式协调/通知、集群管理、Master 选举、分布式锁和分布式队列等功能 。
Zookeeper监控与性能指标
最新发布
禅与计算机程序设计艺术
01-21 1176
1.背景介绍 1. 背景介绍 Apache Zookeeper是一个开源的分布式协调服务，用于构建分布式应用程序。它提供了一种可靠的、高性能的协调服务，以实现分布式应用程序的一致性和可用性。Zookeeper的核心功能包括： 集群管理：Zookeeper可以管理分布式应用程序的集群，包括节点的添加、删除和故障转移。 数据同步：Zookeeper可以实现分布式应用程序之间的数据同步，确保数据...
zookeeper占用8080端口解决
泛音青年的博客
07-14 3394
zookeeper 3.5.5启动默认会把AdminService服务启动，这个服务默认是8080端口，是一个通过jetty启动的管理控制台，一般不会用到，网上的复制粘贴就是来自同一个办法如下： 方法一、删除jetty 方法二、修改端口。 修改方法的方法有两种： 在启动脚本中增加 -Dzookeeper.admin.serverPort=你的端口号. -Dzookeeper.admin.serverPort=你的端口号 在zoo.cfg中增加admin.serverPort=没有被占用的端口号 a
ZooKeeper【搭建 02】apache-zookeeper-3.6.0 集群版（准备+安装配置+启动验证）
シ風
07-29 681
ZooKeeper【搭建 02】apache-zookeeper-3.6.0 集群版（准备+安装配置+启动验证）
Zookeeper3.6.3集群搭建教程（附群起脚本）
程序园@大Null
01-17 1377
Zookeeper集群安装部署搭建教程，Zookeeper3.6.3集群安装部署搭建教程，Zookeeper群起脚本，SSH免密登录
apache-zookeeper-3.6.3-bin.zip
05-30
打开“系统属性” -> “高级” -> “环境变量”，在“系统变量”部分新建一个变量，变量名为"ZOOKEEPER_HOME"，变量值设置为Zookeeper解压后的路径，即"C:\Zookeeper\apache-zookeeper-3.6.3-bin"。 然后，在系统...
apache-zookeeper-3.6.3版本的压缩包，直接下载到本地，解压后即可使用
07-02
ZooKeeper 顾名思义 动物园管理员，他是拿来管大象 (Hadoop) 、 蜜蜂 (Hive) 、 小猪 (Pig) 的管理员， Apache Hbase和 Apache Solr 以及LinkedIn sensei 等项目中都采用到了 Zookeeper。
apache-zookeeper-3.6.3-bin.rar
09-02
在"apache-zookeeper-3.6.3-bin.rar"这个压缩包中，包含的是Zookeeper 3.6.3版本的二进制发布版，主要用于快速部署和使用Zookeeper。 **Zookeeper的主要功能和原理：** 1. **命名服务**：Zookeeper 提供了一种层次...
修改zookeeper中admin server的8080端口
weixin_34310785的博客
06-28 6297
2019独角兽企业重金招聘Python工程师标准>>> ...
zookeeper关闭默认管理端口admin.serverPort=8080
热门推荐
小慌慌的博客
09-13 1万+
使用netstat -tunlp命令发现，除了zookeeper占用的2181端口以外还有一个随机端口和8080端口启用了。
Dubbo-admin 新版本启动问题记录
珍惜
01-31 2076
Dubbo-admin 新版本启动问题记录 文章目录Dubbo-admin 新版本启动问题记录 1、安装步骤a. 下载zookeeperb. 下载并编译dubbo2、总结 1、安装步骤   直接按照官网下载下来的软件，并按照说明安装软件会存在一定的问题。这里将问题记录并解决，防止后面的人踩坑。 a. 下载zookeeper 首先下载zookeeper，网址zookeeper官网，下载之后解压即可。解压后的效果图如下所示。 下面就是修改一个配置，在conf目录里面。首先复制然后修改zoo.cfg配置文件。
集群部署Zookeeper 3.6.3
不是七七子的博客
04-11 1649
1、 前提 已经安装好了jdk8.0以上版本。 2、 下载解压 wget https://downloads.apache.org/zookeeper/stable/apache-zookeeper-3.6.3-bin.tar.gz tar -zxvf apache-zookeeper-3.6.3-bin.tar.gz 3、 修改配置 （1）先进入apache-zookeeper-3.6.3-bin文件夹，创建data和datalog目录。 （2）进入conf目录，复制zoo_sample.cfg文件，命
zookeeper-3.6.3
weixin_66488549的博客
03-03 131
zookeeper-3.6.3
Zookeeper环境搭建配置
西京刀客
06-25 1283
Zookeeper 3、Zookeeper工作原理（详细） 参考URL: https://www.cnblogs.com/raphael5200/p/5285583.html Zookeeper入门看这篇就够了 参考URL: https://blog.csdn.net/java_66666/article/details/81015302 大数据之 ZooKeeper原理及其在Hadoop和HBa...
Centos 7 jdk rpm形式安装
四月
07-28 527
个人整理笔记 jdk-8u181-linux-x64.rpm 1、卸载openJdk rpm -qa | grep java //若有删除 rpm -e --nodeps 2、创建java目录 mkdir /usr/java 3、赋权限安装 chmod +x jdk-8u181-linux-x64.rpm ; rpm -ivh jdk-8u181-linux...
阿里云ecs搭建zookeeper集群
asd991543753的博客
10-21 956
云服务器ecs搭建zookeeper集群
ZooKeeper3.6.3单机与集群安装与配置
留下不学无术的眼泪
06-03 839
废话不多说，直接开干。 1、下载安装包 wget https://downloads.apache.org/zookeeper/zookeeper-3.6.3/apache-zookeeper-3.6.3-bin.tar.gz 2、解压安装包 tar -zxvf apache-zookeeper-3.6.3-bin.tar.gz -C /opt/module/ 3、修改配置文件 进入conf目录 cd conf/ 复制一份zoo_sample.cfg文件，并把名字改为zoo.cfg cp zoo_s
Zookeeper【部署（伪集群安装、集群安装、服务管理）系统模型（数据模型、节点特性 、客户端命令行 、节点数据信息、Watcher监听机制 ）】(二)-全面详解（学习总结---从入门到深化）
04-28 618
Zookeeper【部署（伪集群安装、集群安装、服务管理）系统模型（数据模型、节点特性 、客户端命令行 、节点数据信息、Watcher监听机制 ）】(二)-全面详解（学习总结---从入门到深化）
zookeeper-3.6.3安装文档（单机或集群）
SuperlcBlog
09-29 821
apache-zookeeper-3.6.3-bin.tar.gz zookeeper镜像地址:https://dlcdn.apache.org/zookeeper/zookeeper-3.6.3/ zookeeper官网:https://zookeeper.apache.org/ zookeeper下载:https://zookeeper.apache.org/releases.html zookeeper3.6.3文档：http://zookeeper.apache.org/doc/r3.6.3/ind
Zookeeper服务部署方式简介：单机、伪集群、集群模式安装指南
在集群模式下，Zookeeper运行于一个集群上，需要部署多台机器并进行数据的复制和同步。首先，同样需要在每台机器上下载并解压Zookeeper的安装包。然后，编辑每台机器上Zookeeper的配置文件，指定集合体中每个机器的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

powerfuler

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值