阿里云服务器上部署zookeeper 3.6.3（3）- 集群模式篇

最新推荐文章于 2023-07-21 14:23:59 发布
最新推荐文章于 2023-07-21 14:23:59 发布
阅读量5.3w 收藏 4
点赞数 1
分类专栏： Zookeeper 文章标签： zookeeper zookeeper集群模式 Zookeeper工作原理 zookeeper选举机制
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dingjianmin/article/details/121274458
版权

伪集群模式

这里我们采用的是伪集群模式，一台机器上三个节点，集群模式是一台机器上一个节点。之所以称伪集群，就是这台机器挂了，集群也就没了。集群与伪集群的方式完全一样的。

Zookeeper工作原理

在zookeeper的集群中，各个节点共有下面3种角色和4种状态：

角色：leader,follower,observer

状态：leading,following,observing,looking

Zookeeper的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议（ZooKeeper Atomic Broadcast protocol）。

Zab协议有两种模式，它们分别是恢复模式（Recovery选主）和广播模式（Broadcast同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和leader的状态同步以后，恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。

为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上了zxid。实现中zxid是一个64位的数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数。

每个Server在工作过程中有4种状态：

LOOKING：当前Server不知道leader是谁，正在搜寻。

LEADING：当前Server即为选举出来的leader。

FOLLOWING：leader已经选举出来，当前Server与之同步。

OBSERVING：observer的行为在大多数情况下与follower完全一致，但是他们不参加选举和投票，而仅仅接受(observing)选举和投票的结果。

选举机制

  • 1、半数机制：集群中半数以上机器存活，集群可用。所以Zookeeper适合安装奇数台服务器。

  • 2、需要给每个zookeeper 1G左右的内存，如果可能的话，最好有独立的磁盘，因为独立磁盘可以确保zookeeper是高性能的。如果你的集群负载很重，不要把zookeeper和RegionServer运行在同一台机器上面，就像DataNodes和TaskTrackers一样。

  • 3、Zookeeper虽然在配置文件中并没有指定Master和Slave。但是，Zookeeper工作时，是有一个节点为Leader，其他则为Follower，Leader是通过内部的选举机制临时产生的。

  • 4、以一个简单的例子来说明整个选举的过程。 假设有五台服务器组成的Zookeeper集群，它们的id从1-5，同时它们都是最新启动的，也就是没有历史数据，在存放数据量这一点上，都是一样的。假设这些服务器依序启动，来看看会发生什么，如图

img

  • 1、服务器1启动，此时只有它一台服务器启动了，它发出去的报文没有任何响应，所以它的选举状态一直是LOOKING状态。

  • 2、服务器2启动，它与最开始启动的服务器1进行通信，互相交换自己的选举结果，由于两者都没有历史数据，所以id值较大的服务器2胜出，但是由于没有达到超过半数以上的服务器都同意选举它(这个例子中的半数以上是3)，所以服务器1、2还是继续保持LOOKING状态。

  • 3、服务器3启动，根据前面的理论分析，服务器3成为服务器1、2、3中的老大，而与上面不同的是，此时有三台服务器选举了它，所以它成为了这次选举的Leader。

  • 4、服务器4启动，根据前面的分析，理论上服务器4应该是服务器1、2、3、4中最大的，但是由于前面已经有半数以上的服务器选举了服务器3，所以它只能接收当小弟的命了。

  • 5、服务器5启动，同4一样当小弟。

集群规划

机器编号Ip 地址端口
apache-zookeeper-01127.0.0.12181
apache-zookeeper-02127.0.0.12182
apache-zookeeper-03127.0.0.12183
# 解压移动重命名
mkdir -p /data/zk/
tar xf apache-zookeeper-3.6.3-bin.tar.gz
mv apache-zookeeper-3.6.3-bin /data/zk/zookeeper1
cp -r /data/zk/zookeeper1 /data/zk/zookeeper2
cp -r /data/zk/zookeeper1 /data/zk/zookeeper3
​
# 创建节点存放的数据和日志目录和myid标示
mkdir -p /data/zkdata/zkdata1/logs
mkdir -p /data/zkdata/zkdata2/logs
mkdir -p /data/zkdata/zkdata3/logs
​
echo "1" > /data/zkdata/zkdata1/myid
echo "2" > /data/zkdata/zkdata1/myid
echo "3" > /data/zkdata/zkdata1/myid
​
# 配置文件(基本默认不动，只用修改数据目录和日志目录和添加下server节点)
cd /data/zk/zookeeper1/
cp conf/zoo_sample.cfg conf/zoo.cfg
​
cd /data/zk/zookeeper2/
cp conf/zoo_sample.cfg conf/zoo.cfg
​
cd /data/zk/zookeeper3/
cp conf/zoo_sample.cfg conf/zoo.cfg

节点配置文件修改

# zookeeper3.5版本后提供了jetty默认后台管理8080端口，访问地址为：http://localhost:8081/commands/stat
# 同一台机器上启动多个节点会有冲突,解决办法：
# 启动脚本中修改 -Dzookeeper.admin.serverPort=xxx
# zoo.cfg配置文件中 修改配置admin.serverPort=xxx
# -Dzookeeper.admin.enableServer=false 在启动脚本中关闭管理控制台
​
# 修改节点1配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata1/
dataLogDir=/data/zkdata/zkdata1/logs
clientPort=2181
admin.serverPort=8081
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883
​
# 修改节点2配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata2/
dataLogDir=/data/zkdata/zkdata2/logs
clientPort=2182
admin.serverPort=8082
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883
​
# 修改节点3配置文件
vim conf/zoo.cfg
​
dataDir=/data/zkdata/zkdata3/
dataLogDir=/data/zkdata/zkdata3/logs
clientPort=2183
admin.serverPort=8083
server.1=192.168.16.206:2881:3881
server.2=192.168.16.206:2882:3882
server.3=192.168.16.206:2883:3883

分别启动zookeeper的3个节点

# 启动
/data/zk/zookeeper1/bin/zkServer.sh start
/data/zk/zookeeper2/bin/zkServer.sh start
/data/zk/zookeeper3/bin/zkServer.sh start
​
# 查看状态
/data/zk/zookeeper1/bin/zkServer.sh status
/data/zk/zookeeper2/bin/zkServer.sh status
/data/zk/zookeeper3/bin/zkServer.sh status
​
# 停止
/data/zk/zookeeper1/bin/zkServer.sh stop
/data/zk/zookeeper2/bin/zkServer.sh stop
/data/zk/zookeeper3/bin/zkServer.sh stop
​
# 重启
/data/zk/zookeeper1/bin/zkServer.sh restart
/data/zk/zookeeper2/bin/zkServer.sh restart
/data/zk/zookeeper3/bin/zkServer.sh restart

多机联合测试

c1运行结果：

[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: leader

c2运行结果：

[root@cas zookeeper]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

c3运行结果：

[root@localhost zookeeper]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

同步测试

c1上执行：create /c1project c1projecttest 和 get /c1project

[zk: c1:2181(CONNECTED) 2] create /c1project c1projecttest
Created /c1project
[zk: c1:2181(CONNECTED) 1] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

c2上查看同步结果：get /c1project

[zk: c2:2181(CONNECTED) 0] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

c3上查看同步结果： get /c1project

[zk: c3:2181(CONNECTED) 4] get /c1project
c1projecttest
cZxid = 0x100000013
ctime = Thu Aug 25 11:03:49 CST 2016
mZxid = 0x100000013
mtime = Thu Aug 25 11:03:49 CST 2016
pZxid = 0x100000013
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 13
numChildren = 0

此时说明zookeeper集群配置成功。

从节点主动升级和接管成为主节点

leader和follower的自动切换，前面我们知道c1是leader，当leader down掉后是否有从节点升级为leader。

c1上执行

/var/local/server/zookeeper/bin/zkServer.sh stop

c2上查看状态

[root@cas ~]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

可以发现c2仍然为从节点

再看看c3

[root@localhost ~]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: leader

此时c3升级为了主节点。

再次启动c1，并查看状态

[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh start
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[root@sso conf]#
[root@sso conf]# /var/local/server/zookeeper/bin/zkServer.sh status
JMX enabled by default
Using config: /var/local/server/zookeeper/bin/../conf/zoo.cfg
Mode: follower

发现c1作为了从节点。

每天努力一点，每天都在进步。

powerfuler
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Zookeeper【部署（伪集群安装、集群安装、服务管理）系统模型（数据模型、节点特性 、客户端命令行 、节点数据信息、Watcher监听机制 ）】(二)-全面详解（学习总结---从入门到深化）
04-28 609
Zookeeper【部署（伪集群安装、集群安装、服务管理）系统模型（数据模型、节点特性 、客户端命令行 、节点数据信息、Watcher监听机制 ）】(二)-全面详解（学习总结---从入门到深化）
Dubbo-admin 新版本启动问题记录
珍惜
01-31 2072
Dubbo-admin 新版本启动问题记录 文章目录Dubbo-admin 新版本启动问题记录 1、安装步骤a. 下载zookeeperb. 下载并编译dubbo2、总结 1、安装步骤   直接按照官网下载下来的软件，并按照说明安装软件会存在一定的问题。这里将问题记录并解决，防止后面的人踩坑。 a. 下载zookeeper 首先下载zookeeper，网址zookeeper官网，下载之后解压即可。解压后的效果图如下所示。 下面就是修改一个配置，在conf目录里面。首先复制然后修改zoo.cfg配置文件。
Centos 7 jdk rpm形式安装
四月
07-28 525
个人整理笔记 jdk-8u181-linux-x64.rpm 1、卸载openJdk rpm -qa | grep java //若有删除 rpm -e --nodeps 2、创建java目录 mkdir /usr/java 3、赋权限安装 chmod +x jdk-8u181-linux-x64.rpm ; rpm -ivh jdk-8u181-linux...
阿里云服务器——zookeeper搭建kafka集群
最新发布
qian1696504877的博客
07-21 372
监听主机ip和端口，默认说是监听主机上的所有ip，最好就是如下配置，我百度看其他文章不同主机的话都是改成本机ip，但是我这里改成本机的话服务回起不来，一直提示无法建立broker，不知道什么原因。
安装Zookeeper出现Unable to start AdminServer，existing abnormally问题解决方法
lihaitao910215的博客
03-29 6326
在linux上安装zookeeper，版本是/apache-zookeeper-3.5.7-bin。 简单配置之后，进行启动 启动命令:sh zkServer.sh start 然后控制台显示： 看情况是服务已经起来了。但是进行ps查看进程，却没有zookeeper的任何信息 这是啥情况。。。陷入沉思了 于是查看日志 看提示是端口已经被占用了，奇怪了，我这端口不是2181吗？？ 然后我用los...
apache-zookeeper-3.6.3-bin.zip
05-30
打开“系统属性” -> “高级” -> “环境变量”，在“系统变量”部分新建一个变量，变量名为"ZOOKEEPER_HOME"，变量值设置为Zookeeper解压后的路径，即"C:\Zookeeper\apache-zookeeper-3.6.3-bin"。 然后，在系统...
apache-zookeeper-3.6.3-bin.tar的压缩包，解压到本地即可使用，还有zk.sh的脚本以及zoo.cfg
06-18
apache-zookeeper-3.6.3-bin.tar的压缩包，解压到本地即可使用，还有zk.sh的脚本以及zoo.cfg和xsync。ZooKeeper 是一个分布式协调服务 ，由 Apache 进行维护。ZooKeeper 可以视为一个高可用的文件系统。ZooKeeper ...
apache-zookeeper-3.6.3版本的压缩包，直接下载到本地，解压后即可使用
07-02
ZooKeeper 顾名思义 动物园管理员，他是拿来管大象 (Hadoop) 、 蜜蜂 (Hive) 、 小猪 (Pig) 的管理员， Apache Hbase和 Apache Solr 以及LinkedIn sensei 等项目中都采用到了 Zookeeper。
zookeeper 3.6.3 源码下载
04-03
在Zookeeper-3.6.3源码中，重点关注以下模块： - `src/main/java/org/apache/zookeeper/server`：服务器端的核心代码，包括选举、处理请求等。 - `src/main/java/org/apache/zookeeper/client`：客户端的实现，包括...
阿里云服务器部署zookeeper集群+kafka集群
BrillianY的博客
01-21 725
阿里云部署zookeeper集群+kafka集群，遇到的问题及解决
Linux上安装zookeeper
perturb的博客
04-07 2167
zookeeper的作用： 1，用于分布式系统中加载动态配置 abc按照集群的方式工作，为了保证abc服务的一致性，可以使用zookeeper来保证，这样abc中任意一个服务对数据作出改动其他两个也能及时改动 2，用于名字服务，类似于dns服务器 abc三个都要访问登录服务，例如当想要访问百度网页时，只需要将百度的域名给zk，zk就可以返回百度网页的ip和端口 3，分布式锁 常用在多个进程访问统一资源的情况下，例如如果没有锁的话，每个服务都会执行一遍转账操作，那么就会转账300元
阿里云搭建Zookeeper集群
JOJO!
11-12 1077
为什么要使用zookeeper集群 大部分分布式应用需要一个主控、协调器或者控制器来管理物理分布的子进程。目前，大多数都要开发私有的协调程序，缺乏一个通用机制，协调程序的反复编写浪费，且难以形成通用、伸缩性好的协调器，zookeeper提供通用的分布式锁（数据库，redis,zookeeper）服务，用以协调分布式应用。所以说zookeeper是分布式应用的协作服务。 zookeeper作为注册中...
【ELFK】之zookeeper
种一颗树最好的时间是十年前，其次是现在！
09-03 588
第一次启动选举机制主要需要看启动顺序，再看他的myid，只要选举票数超过半数，就会选举出一个leader。新加的机器都会指向这个leader。非第一次启动选举机制假如存在leader，新加入的机器会获取到leader的信息，然后进行连接。假如没有leader，会先比较Epoch（任期数），再比较ZXID（事务ID），再比较SID（服务id）。
zookeeper3.6.3集群搭建
qiouou的博客
04-17 1382
1.准备三台主机 01,02,03 2.在01上安装 jdk8,下载解压 jdk-8u221-linux-x64.tar.gz 配置好环境变量 3.下载 zookeeper3.6.3 : https://downloads.apache.org/zookeeper/zookeeper-3.6.3/ 4.解压并进入 tar -zxvf apache-zookeeper-3.6.3-bin.tar.gz 5.配置环境变量 (配置好可以发送到其他主机) 6.创建 data...
Zookeeper 3.6 集群安装
weixin_45501950的博客
09-16 1037
集群安装 下载 wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.6.2/apache-zookeeper-3.6.2-bin.tar.gz 解压 tar -zxvf apache-zookeeper-3.6.2-bin.tar.gz 重命名 mv apache-zookeeper-3.6.2-bin zookeeper 配置 dataDir=/opt/zookeeper/data serv
zookeeper3.6.0集群部署，动态更新配置
陈崇洋的博客
04-04 1871
修改配置文件 conf/zoo_sample.cfg 修改名称 zoo.cfg # 定义文件存储目录 dataDir=/opt/module/apache-zookeeper-3.6.0-bin/zkDate # 定义集群节点 server.2=hadoop02:2888:3888 server.3=hadoop03:2888:3888 server.4=hadoop04:2888:3888...
判断zk是否挂掉_ZK的学习笔记
weixin_39655362的博客
11-16 1092
前言：当初学习的时候看的这篇文章，借鉴别人去学习的能否用通俗的讲法解释一下什么是Zookeeper？​www.zhihu.com本文大纲什么是ZKZK能够干什么zookeeper的数据结构ZK的选举什么是zookeeper？1：Zookeeper是Apache Hadoop的子组件之一2：ZooKeeper主要服务于分布式系统。统一配置管理、统一命名服务、分布式锁、集群管理zookeeper能够干...
当kafka集群其中一台宕机后，集群不能正常工作（已解决）
热门推荐
DreamsArchitects的博客
09-15 1万+
当kafka集群其中一台挂掉后,会怎么样？一、介绍二、停掉Leader节点二、停掉分区leader节点三、停掉非leader节点 一、介绍 我们搭建好kafka集群后，对其进行性能测试。遇到这种场景：我搭建好了三台kakfa集群，然后停掉其中一台kafka，然后集群是否能正常工作呢？ kafka集群： 192.168.183.53 节点1 192.168.183.55 节点2 192.168.183.62 节点3 创建的主题是hw_data: 三个分区、三个副本 ./kafka-topics
zookeeper在单机上伪集群测试时，出现Unable to start AdminServer, exiting abnormally
Fibona的专栏
12-08 5935
zookeeper在单机上伪集群测试时，出现Unable to start AdminServer, exiting abnormally
zookeeper服务部署方式
03-30
Zookeeper安装方式有三种，单机模式和集群模式以及伪集群模式。 1.单机模式：Zookeeper只运行在一台服务器上，适合测试环境； 2.伪集群模式：就是在一台物理机上运行多个Zookeeper 实例。 3.集群模式：Zookeeper运行于一个集群上，适合生产环境，这个计算机集群被称为一个“集合体”（ensemble）。 该文档主要记录部署过程

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

powerfuler

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值