(8)分布式应用协调框架——Zookeeper

一、简介

Zookeeper是一个分布式应用协调框架,用来解决分布式系统中数据性一致的基础问题。

  • 如何解决的?
    – 提供了以ZNode为核心的文件系统,每个节点可以是文件也可以是目录,只能用绝对路径使用
    – 提供了Watch监听通知机制

二、安装

  • 编写docker-compose文件
version: '3.1'

services:
 zoo1:
   image: zookeeper:3.5
   restart: always
   hostname: zoo1
   ports:
     - 2181:2181
   environment:
     ZOO_MY_ID: 1
     ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=zoo3:2888:3888;2181

 zoo2:
   image: zookeeper:3.5
   restart: always
   hostname: zoo2
   ports:
     - 2182:2181
   environment:
     ZOO_MY_ID: 2
     ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=zoo3:2888:3888;2181

 zoo3:
   image: zookeeper:3.5
   restart: always
   hostname: zoo3
   ports:
     - 2183:2181
   environment:
     ZOO_MY_ID: 3
     ZOO_SERVERS: server.1=zoo1:2888:3888;2181 server.2=zoo2:2888:3888;2181 server.3=zoo3:2888:3888;2181
  • 启动(docker-compose up -d)
  • 进入(docker-compose exec zoo1 bash)
  • 连接(zkCli.sh)

三、ZNode的操作命令

命令示例含义
ls 节点路径ls /浏览某个节点下的所有子节点
create 节点路径 节点值 [数据版本号]create /baizhi baizhiinfo创建节点,并设置节点值
get 节点路径get /baizhi查看节点的值
set 节点路径 节点值set /baizhi baizhiinfo2更新节点的值
delete 节点路径delete /baizhi删除某个节点
rmr 节点路径rmr /baizhi删除该节点,并递归的删除子节点

四、节点类型

  1. PERSISTENT(持久节点)

    特点:节点一旦创建长久保存,除非显式调用delete命令才会删除节点

    创建命令:create 节点路径 节点值

    应用场景:保存服务的配置文件,在多个服务间共享配置

  2. EPHEMERAL(临时节点)

    特点:创建节点的client一旦断开和zk的连接,自动删除节点

    创建命令:create -e 节点路径 节点值

    应用场景:可以用于统计集群中机器的运行情况,机器上线时为每台机器创建一个临时节点,统计临时节点个数获取运行的机器数量

  3. PERSISTENT_SEQUENTIAL(持久有序编号节点)

    特点:节点一旦创建,长久有效。zk自动为节点添加自增的序号。

    创建命令:create -s 节点路径 节点值

  4. EPHEMERAL_SEQUENTIAL(临时有序编号节点)

    特点:创建节点的client一旦断开和zk的连接,自动删除节点。zk自动为节点添加自增的序号。

    创建命令:create -s -e 节点路径 节点值

    应用场景:分布式锁,多个进程同时创建节点/locks,按照节点序号大小依次获取锁,哪个进程的节点值最小,哪个进程获取到锁。

五、watch监听机制

可以监听一个节点,一旦节点发生变化,可以立刻得到通知

  • get /节点 watch
  • ls /节点 watch

六、zk服务器集群角色的分类

  • Leader 角色服务器负责管理集群中其他的服务器,是集群中工作的分配和调度者。
  • Follower 服务器的主要工作是选举出 Leader 服务器,在发生 Leader 服务器选举的时候,系统会从 Follower 服务器之间根据多数投票原则,选举出一个 Follower 服务器作为新的 Leader 服务器。

七、ZK集群数据读写

写操作:

  1. 客户端将写操作请求发送到zk服务器
  2. 如果连接到的是follower节点,则将写操作转给leader
  3. leader生成一个新的事务并为这个事务生成一个唯一的Zxid
  4. leader节点会把数据通过proposal请求发送到所有节点(包括自己),广播这个 Proposal 事务,Leader 节点和 Follower 节点是解耦的,通信都会经过一个先进先出的消息队列,Leader 会为每一个 Follower 服务器分配一个单独的 FIFO 队列,然后把 Proposal 放到队列中;
  5. 所有到节点接受到proposal请求以后都会写到自己到本地磁盘上面,成功后向leader返回ACK(确认消息)
  6. leader接收到半数以上的ACK时(包括自己),leader向所有follower广播commit消息
  7. 各个节点接收到commit后,就会把消息放入到内存中(放内存是为了保证高性能),该消息就对用户可见了
  8. 通知 Client 数据写成功了,这时就认为整个写操作成功


读操作:

  1. client发起请求连接zk节点
  2. 无论节点是什么角色,都直接从当前zk节点返回读取结果

八、Leader的选举

服务启动时的 Leader 选举:
  • 启动时每个节点会向集群中获取主节点,此时节点为跟随状态,没有主节点则进行投票选举,先使用zxid投票选举,达到半数则为主节点,未分辨则根据myid投票选举,半数则为主节点
服务运行时的 Leader 选举(旧的Leader失效):
  • 主节点崩溃,其他都变为looking状态
  • 每个集群中的服务器都会投票给自己,将投票信息中的 Zxid 和 myid 分别指向本机服务器,这一步中Zxid有很大概率不同,最终选举时一定选举出Zxid更大的机器。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
什么是Zookeeper Zookeeper是一个分布式开源框架,提供了协调分布式应用的基本服务,它向外部应用暴露一组通用服务——分布式同步(Distributed Synchronization)、命名服务(Naming Service)、集群维护(Group Maintenance)等,简化分布式应用协调及其管理的难度,提供高性能的分布式服务。ZooKeeper本身可以以单机模式安装运行,不过它的长处在于通过分布式ZooKeeper集群(一个Leader,多个Follower),基于一定的策略来保证ZooKeeper集群的稳定性和可用性,从而实现分布式应用的可靠性。 1、Zookeeper是为别的分布式程序服务的 2、Zookeeper本身就是一个分布式程序(只要有半数以上节点存活,zk就能正常服务) 3、Zookeeper所提供的服务涵盖:主从协调、服务器节点动态上下线、统一配置管理、分布式共享锁、统> 一名称服务等 4、虽然说可以提供各种服务,但是zookeeper在底层其实只提供了两个功能: 管理(存储,读取)用户程序提交的数据(类似namenode中存放的metadata);  并为用户程序提供数据节点监听服务; Zookeeper集群机制 Zookeeper集群的角色: Leader 和 follower  只要集群中有半数以上节点存活,集群就能提供服务 Zookeeper特性 1、Zookeeper:一个leader,多个follower组成的集群 2、全局数据一致:每个server保存一份相同的数据副本,client无论连接到哪个server,数据都是一致的 3、分布式读写,更新请求转发,由leader实施 4、更新请求顺序进行,来自同一个client的更新请求按其发送顺序依次执行 5、数据更新原子性,一次数据更新要么成功,要么失败 6、实时性,在一定时间范围内,client能读到最新数据 Zookeeper数据结构 1、层次化的目录结构,命名符合常规文件系统规范(类似文件系统)    2、每个节点在zookeeper中叫做znode,并且其有一个唯一的路径标识  3、节点Znode可以包含数据和子节点(但是EPHEMERAL类型的节点不能有子节点) 节点类型  a、Znode有两种类型: 短暂(ephemeral)(create -e /app1/test1 “test1” 客户端断开连接zk删除ephemeral类型节点)  持久(persistent) (create -s /app1/test2 “test2” 客户端断开连接zk不删除persistent类型节点) b、Znode有四种形式的目录节点(默认是persistent ) PERSISTENT  PERSISTENT_SEQUENTIAL(持久序列/test0000000019 )  EPHEMERAL  EPHEMERAL_SEQUENTIAL c、创建znode时设置顺序标识,znode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护          d、在分布式系统中,顺序号可以被用于为所有的事件进行全局排序,这样客户端可以通过顺序号推断事件的顺序 Zookeeper应用场景 数据发布与订阅(配置中心) 发布与订阅模型,即所谓的配置中心,顾名思义就是发布者将数据发布到ZK节点上,供订阅者动态获取数据,实现配置信息的集中式管理和动态更新。例如全局的配置信息,服务式服务框架的服务地址列表等就非常适合使用。 负载均衡 这里说的负载均衡是指软负载均衡。在分布式环境中,为了保证高可用性,通常同一个应用或同一个服务的提供方都会部署多份,达到对等服务。而消费者就须要在这些对等的服务器中选择一个来执行相关的业务逻辑,其中比较典型的是消息中间件中的生产者,消费者负载均衡。 消息中间件中发布者和订阅者的负载均衡,linkedin开源的KafkaMQ和阿里开源的 metaq都是通过zookeeper来做到生产者、消费者的负载均衡。这里以metaq为例如讲下: 生产者负载均衡:metaq发送消息的时候,生产者在发送消息的时候必须选择一台broker上的一个分区来发送消息,因此metaq在运行过程中,会把所有broker和对应的分区信息全部注册到ZK指定节点上,默认的策略是一个依次轮询的过程,生产者在通过ZK获取分区列表之后,会按照brokerId和partition的顺序排列组织成一个有序的分区列表,发送的时候按照从头到尾循环往复的方式选择一个分区来发送消息。 消费负载均衡: 在消费过程中,一个消费者会消费一个或多个分区

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值