文章目录
前言
在了解Zookeeper之前,需要对分布式相关知识有一定的了解,什么是分布式系统?通常情况下,单个物理节点很容易达到瓶颈,所以这个时候需要多个物理节点来共同完成某项任务,一个分布式系统的本质是分布在不同网络或者计算机上的程序组件,彼此通过信息传递来协同工作的系统,而Zookeeper正是一个分布式应用协调框架,在分布式系统中有着广泛的应用场景。一、什么是Zookeeper?
Zookeeper是一个分布式协调框架,是Apache Hadoop的一个子项目,他主要是用来解决分布式应用中经常遇到的一些数据管理问题。Zookeeper是一个基于内存存储少量数据的数据库,主要有两个核心概念:文件系统数据结构+监听通知机制。- 1.1 Zookeeper维护一个类似文件系统的目录结构
每个子目录项都被称为znode(目录节点),和文件系统类似,我们能够自由的增加、删除znode,在一个znode下增加、删除子znode。有六种类型的znode:
①persistent-持久化目录节点:
客户端与Zookeeper断开连接后,该节点依然存在,只要不手动删除该节点,它将永远存在。
②persistent_sequential-持久化顺序节点:
客户端与Zookeeper断开连接后,该节点依然存在,只是Zookeeper给该节点名称顺序编号
③ephemeral-临时目录节点:
客户端与Zookeeper断开连接后,该节点被删除
④ephemeral-sequential-临时顺序节点:
客户端与Zookeeper断开连接后该节点被删除,只是Zookeeper给该节点进行顺序编号。
⑤Container-容器节点:
如果Container下没有任何子节点,则Container节点在一段时间后会被Zookeeper自动删除,定时任务默认60s检查一次。
⑥TTL节点(默认下禁用,只有通过系统配置zookeeper.extendedTypesEnabled=true开启,不稳定) - 1.2 监听通知机制
客户端注册监听它关心的任意节点,包括目录节点、递归子节点。
①如果注册的是对某个节点的监听,则当这个节点被删除,或者被修改时,对应的客户端将被通知
②如果注册的是对某个目录的监听,则当这个目录有子节点被创建,或者有子节点被删除,对应的客户端将被通知。
③如果注册的是对某个目录的递归子节点进行监听,则当这个目录下的任意子节点有目录结构的变化(有子节点被创建或者被删除)或者跟节点有数据变化时,对应的客户端将被通知。
注意:所有的通知都是一次性的,及无论是对节点还是对目录进行监听,一旦触发,对应的监听即被移除。递归子节点监听的是对所有子节点的,所以,每个子节点下面的事件同样只会被触发一次。
二、使用命令操作Zookeeper
1.创建Zookeeper节点命令
在客户端中输入help即可看到Zookeeper支持的所有命令:
-
1.1 创建Zookeeper节点命令
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
中括号为可选项,没有则默认为创建持久化节点
-s:顺序节点
-e:临时节点
-c:容器节点
-t: ttl节点 默认是禁用的 需通过系统参数启用
①创建节点: create /demo demodata
②修改节点数据:set /demo hellodemo
③查看节点状态:stat /demo
节点状态参数详情:- cZxid:创建znode的事务ID
- mZxid:最后修改znode的事务ID
- pZxid:最后添加或删除子节点的事务ID(子节点列表发生变化才会发生改变)
- ctime:znode创建时间。
- mtime:znode修改时间。
- dataVersion:znode当前数据版本。
- cversion:znode子节点结果集版本(一个节点的子节点增加、删除都会影响这个版本)。
- aclVersion:表示此znode的acl版本。
- ephemeralOwner:znode是临时znode时,表示znode所有者的session ID 。如果znode不是临时节点,则该字段设置为零。
- dataLength:znode数据字段的长度。
- numChildren:znode的子znode的数量。
④根据dataVersion可以实现乐观锁的功能
第一个客户端先更改set /demo changeData 此时dataVersion发生改变肯定不会是1了。所以下面那个客户端再使用-v 1 来修改demo这个节点的值就会发生错误。
⑤查看所有子节点:如查看根目录下的所有子节点 ls /
⑥创建临时节点:create -e /ephemeral data
创建的临时节点不能创建子节点。
客户端重启之后会发现ephemeral节点消失了。
⑦创建序号节点:
create -s /persistent_seq/ 代表在persistent_seq节点下创建顺序节点。
create -s /persistent_seq/ data22 代表在persistent_seq节点下创建顺序节点并且值为data22
create -s /persistent_seq/x 代表在persistent_seq节点下创建顺序节点是以x开头的。
create -s /persistent_seq/x data11 代表在persistent_seq节点下创建顺序节点是以x开头的并且值为data11
⑧创建临时顺序节点:create ‐s ‐e /ephemeral‐node/[前缀] [节点值]
⑨创建容器节点:create ‐c /container
容器节点主要用来容纳子节点,如果没有给其创建子节点,容器节点和持久化节点一样,如果给容器节点创建了子节点但是后来又给清空了,此时容器节点也会被Zookeeper给删除。
2.事件监听机制
针对节点的监听:一旦事件触发,对应的对应的监听会立刻被移除,所以事件监听是一次性的。-
get -w /boyun //注册监听的同时获取数据
-
stat -w /boyun //对节点进行监听,并获取数据信息
-
针对目录的监听 ls -w / path
针对目录的监听,目录一旦变化,会触发监听,且一旦触发,对应的监听也会被移除,后续对节点的创建没有触发监听事件。
-
针对递归子目录的监听
ls -R -w/path
Zookeeper事件类型:
None:链接建立事件
NodeCreated:节点创建
NodeDeleted:节点删除
NodeDataChanged:节点数据变化
NodeChildrenChanged:子节点列表变化
DataWatchRemoved:节点监听被移除
ChildWatchRemoved:子节点监听被移除
三、Zookeeper的ACL权限控制
Zookeeper的ACL权限控制,可以控制节点的读写操作,保证数据的安全性,Zookeeper ACL权限设置分为3部分组成,分别是:权限模式(Scheme)、授权对象(ID)、权限信息(Permission)
-
权限模式(Scheme) :用来设置Zookeeper服务器进行权限验证的方式。Zookeeper的权限验证方式大概分为四种类型:
<<①>> 第一种是范围验证。所谓的范围验证就是说Zookeeper可以针对一个IP或者一段IP地址授权于某种权限。比如我们可以让一个IP地址为“ip:10.10.2.21”的机器对服务器上的某个数据节点具有写入的权限。或者通过网段给一段IP地址赋值。
<<②>> 第二种是口令验证,也可以理解为用户名密码的方式。在Zookeeper中这种验证方式是Digest认证,而Digest这种认证方式首先在客户端传送“username:password”这种形式的权限表示符号,Zookeeper的服务端会对密码部分使用SHA-1和BASE64算法进行加密,以保证安全性。
<<③>> 还有一种Super权限模式,Super可以认为是一种特殊的Digest认证。具有Super权限的客户端可以对Zookeeper上的任意数据节点进行任意操作。
<<④>> World模式,只有一个授权对象ID:anyone -
授权对象(ID) :授权对象就是要把权限赋予谁,而对应于4种不同的权限模式来说,如果我们选择采用IP方式,使用的授权对象可以是一个IP地址或者IP地址段;而如果使用Digest或者Super方式,则对应于一个用户名。如果是World模式,是授权系统中所有的用户。
-
权限信息(Permission) :权限就是指我们可以在数据节点上执行的操作种类,如下所示:在Zookeeper中已经定义好的权限有5种:
<<①>> 创建权限(c:create):被授予权限的对象可以在数据节点下创建子节点。
<<②>> 更新权限(w:write):被授予权限的对象可以更新该数据节点。
<<③>> 读取权限(r:read): 被授予权限的对象可以读取该节点内容以及子节点列表信息。
<<④>> 删除权限(d:delete):被授予权限的对象可以删除该数据节点的子节点。
<<⑤>> 管理者权限:被授予权限的对象可以对该数据节点进行ACL权限设置。
命令:
getAcl:获取某个节点的ACL权限信息
setAcl:设置某个节点的ACL权限信息
addauth:输入认证授权信息,相当于注册用户信息,注册时输入明文密码,zk将以密文的形式存储。
可以通过系统参数zookeeper.skipACL=yes进行配置,默认是no,,则配置过的ACL将不再进行权限检测。
①auth明文授权:
必须先登录用户信息
addauth digest 用户名:密码 。
之后创建的时候直接可以用明文授权
②IP授权模式:
如果21这条服务器想要查询到这条数据怎么办?可以通过配置系统参数 ,在 bin/zkServer.sh 文件中 添加 -Dzookeeper.skipACL=yes ,一旦加上这个即使配置了ACL也会失效。使所有的节点权限都会失效。
如:
重启之后再次查询,21着台服务器就可以查询到/zknodeip节点的数据了
补充:
创建一个默认权限的节点 他的ACL:权限模式是world,授权对象是anyone,授权信息是cdrwa
这种就是自己设置了权限的
权限模式是 口令验证digest,授权对象是用户名:密码的方式,授权信息是rw
如果还想保留权限,那么就不需要配置系统变量,使用管理员权限去修改用户名密码即可。
也还是更改系统文件:
‐Dzookeeper.DigestAuthenticationProvider.superDigest=super:
<base64encoded(SHA1(password))