既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!
由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新
一、ZK下载与安装(zk每个节点)
1.下载zk安装包
下载地址:https://archive.apache.org/dist/zookeeper/apache-zookeeper-3.6.2-bin.tar.gz
2.解压安装包
tar -zxvf apache-zookeeper-3.6.2-bin.tar.gz -C /opt/
3.复制ZK配置文件
cp /opt/zookeeper-3.6.2/conf/zoo_sample.cfg /opt/zookeeper-3.6.2/conf/zoo.cfg
4.创建log文件目录和ZK信息目录
mkdir /data01/zookeeper-3.6.2/dataLogDir
mkdir /data01/zookeeper-3.6.2/dataDir
5.创建myid文件【由于是版本升级,该步骤省略】
dn01服务器
vim /data01/zookeeper-3.4.6/dataDir/myid
1
dn02服务器
vim /data01/zookeeper-3.4.6/dataDir/myid
2
dn03服务器
vim /data01/zookeeper-3.4.6/dataDir/myid
3
6.修改ZK配置文件(如果zk升级升级不到ckman,此步骤可以忽略prometheus相关配置)
vim /opt/zookeeper-3.6.2/conf/zoo.cfg
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/data01/zookeeper-3.6.2/dataDir
dataLogDir=/data01/zookeeper-3.6.2/dataLogDir
forceSync=no
# the port at which the clients will connect
clientPort=2181
server.1=dn01:2888:3888
server.2=dn02:2888:3888
server.3=dn03:2888:3888
# the maximum number of client connections.
# increase this if you need to handle more clients
#maxClientCnxns=60
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc\_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
## Metrics Providers
#
# https://prometheus.io Metrics Exporter
#metricsProvider.className=org.apache.zookeeper.metrics.prometheus.PrometheusMetricsProvider
#metricsProvider.httpPort=7000
#metricsProvider.exportJvmInfo=true
metricsProvider.className=org.apache.zookeeper.metrics.prometheus.PrometheusMetricsProvider
#暴露给promethues的监控端口
metricsProvider.httpPort=7000
metricsProvider.exportJvmInfo=true
admin.enableServer=true
#暴露给四字命令如mntr等的监控端口,3.5.0以上版本支持
admin.serverPort=8080
部分注释:
tickTime:ZK中的一个时间单元。ZK中所有时间都是以这个时间单元为基础,进行整数倍配置的。例如,session的最小超时时间是2*tickTime
initLimit:Follower在启动过程中,会从Leader同步所有最新数据,然后确定自己能够对外服务的起始状态。Leader允许F在
initLimit 时间内完成这个工作。通常情况下,我们不用太在意这个参数的设置。如果ZK集群的数据量确实很大了,F在启动的时候,从Leader上同步数据的时间也会相应变长,因此在这种情况下,有必要适当调大这个参数了。
syncLimit:在运行过程中,Leader负责与ZK集群中所有机器进行通信,例如通过一些心跳检测机制,来检测机器的存活状态。如果L发出心跳包在syncLimit之后,还没有从F那里收到响应,那么就认为这个F已经不在线了。注意:不要把这个参数设置得过大,否则可能会掩盖一些问题。
dataDir:存储快照文件snapshot的目录。默认情况下,事务日志也会存储在这里
dataLogDir:事务日志输出目录。
clientPort:客户端连接server的端口,即对外服务端口
server.1=dn01:2888:3888:这里的1是一个数字,与myid文件中的id是一致的。右边可以配置两个端口,第一个端口用于F和L之间的数据同步和其它通信,第二个端口用于Leader选举过程中投票通信。
zookeeper集群是clickhouse实现分布式集群的重要组件,需要提前搭建好。由于clickhouse数据量极大,避免给zookeeper带来太大的压力,最好给clickhouse单独部署一套集群,不要和其他业务公用。
7.增加用户权限(如果zk升级,不安装ckman,此步骤可以忽略)
添加admin 一行数据
vim /etc/sudoers
## Same thing without a password
# %wheel ALL=(ALL) NOPASSWD: ALL
admin ALL=(ALL) NOPASSWD: ALL
8.拷贝ZK3.4.6元数据信息至ZK3.6.2元数据目录下
日志:/data01/zookeeper-3.4.6/dataLogDir 根据选择性拷贝或者不拷贝即可;
主要是拷贝/data01/zookeeper-3.4.6/dataDir目录信息;
特别注意myid与server id与老版本保持一致,dataDir与dataLogDir与老版本保持一致。
cp -r /data01/zookeeper-3.4.6/dataDir /data01/zookeeper-3.6.2/dataDir
cp -r /data01/zookeeper-3.4.6/dataLogDir /data01/zookeeper-3.6.2/dataLogDir
二 配置环境变量及启动ZK
1.配置ZK环境变量
vim /etc/profile
export ZK\_HOME=/opt/zookeeper-3.6.2
export PATH=$PATH:$ZK\_HOME/bin
2.环境变量生效
source /etc/profile
3.进一步验证ZK可用性(如果坚信自己安装无误,此步骤可省略)
命令行模式
[root@dn01 ~]# zkCli.sh
新增目录
[zk: localhost:2181(CONNECTED) 0] create /test
Created /test
获取指定路径上的数据
[zk: localhost:2181(CONNECTED) 0] get /test
null
删除指定路径上的数据
[zk: localhost:2181(CONNECTED) 1] delete /test
[zk: localhost:2181(CONNECTED) 2] get /test
org.apache.zookeeper.KeeperException$NoNodeException: KeeperErrorCode = NoNode for /test
4.割接ZK版本(逐一操作升级)
查看zookeeper状态,先从follower开始升级,最后升级leader。
zkServer.sh status
1)停止老版本服务并查看zk状态
cd /opt/zookeeper-3.4.6/bin
./zkServer.sh stop
./zkServer.sh status
2)启动ZK测试新版本服务
手动启动ZooKeeper,确认是否存在任何错误信息。可以在命令行中输入’./zkServer.sh start-foreground’,这将以前台模式启动ZooKeeper,并将所有日志输出到终端上,以便更好地调试。
zkServer.sh start-foreground
观察启动日志加载的环境变量是否是3.6.2,如果不是,需要重新登录服务器,因为环境变量在当前窗口未生效。
3)正常启动ZK新版本服务
如果前者测试启动无误,可以正常启动
zkServer.sh start
4)查看ZK状态
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
950606)]
[外链图片转存中…(img-zwZX1Jb0-1715470950607)]
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!