2024年Linux最全ZooKeeper运维——集群动态迁移与扩缩容（不停机+不丢失）(1)，2024Linux运维开发面试题及答案

最后的话

最近很多小伙伴找我要Linux学习资料，于是我翻箱倒柜，整理了一些优质资源，涵盖视频、电子书、PPT等共享给大家！

资料预览

给大家整理的视频资料：

给大家整理的电子书资料：

如果本文对你有帮助，欢迎点赞、收藏、转发给朋友，让我有持续创作的动力！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

文章目录

• • 一、前言

• 二、zk集群动态迁移

• • 1、利用Observer机制

• 2、切换客户端zk地址

• 3、修改目的集群配置

• 4、依次重启目的集群

• 三、zk集群动态扩容

• • 1、Observer扩容

• 2、Follower扩容

• • （1）修改扩容节点配置

• （2）启动扩容节点

• （3）修改客户端zk地址

• （4）修改源集群的配置

• （5）重启源集群

• （6）人为脑裂

• 四、zk集群动态缩容

• • 1、修改剩余节点配置

• 2、修改客户端zk地址

• 3、依次重启剩余节点

• 五、要点总结

一、前言

---

zk集群的动态迁移与扩缩容需要做到两个不：

1. 不停机，ZooKeeper 集群在运维过程中能正常对外提供服务。

2. 不丢失，ZooKeeper 集群在运维过程中数据正确同步，不丢失。

要想做到以上两个不，需要对ZooKeeper的Leader选举和运行机制有一定了解。Leader选举是保证数据一致性的关键所在，过半数保证集群正常对外提供服务。

在集群迁移和扩缩容的过程中会发生数据的迁移恢复和同步，请参考另一篇《ZooKeeper运维——数据备份与恢复》。

二、zk集群动态迁移

---

从源集群不停机迁移到目的集群，保证数据一致性，保证集群正常对外提供服务。

假设源集群和目的集群都是三个服务节点，源集群zoo.cfg配置为：

(因为资源限制，只在一台机器模拟，多机器原理是一样的，只是要注意端口。)

server.1 = 127.0.0.1:2688:3788

server.2 = 127.0.0.1:2689:3789

server.3 = 127.0.0.1:2690:3790

目的集群分别为server.4、server.5、server.6，正常配置如下：

server.4 = 127.0.0.1:2691:3791

server.5 = 127.0.0.1:2692:3792

server.6 = 127.0.0.1:2693:3793

1、利用Observer机制

为了能从源集群动态把数据同步到目的集群，利用Observer机制，将server.4、server.5、server.6暂时分别作为源集群的Observer启动，配置分别如下：

server.4的zoo.cfg配置

peerType=observer

server.1 = 127.0.0.1:2688:3788

server.2 = 127.0.0.1:2689:3789

server.3 = 127.0.0.1:2690:3790

server.4 = 127.0.0.1:2691:3791:observer

server.5 = 127.0.0.1:2692:3792

server.6 = 127.0.0.1:2693:3793

server.5的zoo.cfg配置

peerType=observer

server.1 = 127.0.0.1:2688:3788

server.2 = 127.0.0.1:2689:3789

server.3 = 127.0.0.1:2690:3790

server.4 = 127.0.0.1:2691:3791

server.5 = 127.0.0.1:2692:3792:observer

server.6 = 127.0.0.1:2693:3793

server.6的zoo.cfg配置

peerType=observer

server.1 = 127.0.0.1:2688:3788

server.2 = 127.0.0.1:2689:3789

server.3 = 127.0.0.1:2690:3790

server.4 = 127.0.0.1:2691:3791

server.5 = 127.0.0.1:2692:3792

server.6 = 127.0.0.1:2693:3793:observer

server.4、server.5、server.6分别启动，数据就可以从源集群同步到目的集群了，即使现在源集群有写操作，也可以实时同步。

• 如下是server.4作为源集群的Observer启动时的日志：

• server.4刚启动时，是一个LOOKING状态，就是在找Leader。

• 找到Leader以后，就变成了OBSERVING状态。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hXDEN6rq-1632664267904)(C:\我的坚果云\mymd\image\zk_observer1.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-t7sErJxi-1632664267907)(C:\我的坚果云\mymd\image\zk_observer2.png)]

2、切换客户端zk地址

虽然server.4、server.5、server.6都是Observer，但是也可以对外提供服务。此时可以将连接目的集群的客户端，如qconf_agent、kafka中的zk地址修改为目的集群的。

3、修改目的集群配置

先将目的集群的配置observer相关的配置去掉，都修改为如下配置：

server.4 = 127.0.0.1:2691:3791

server.5 = 127.0.0.1:2692:3792

server.6 = 127.0.0.1:2693:3793

4、依次重启目的集群

目的集群的配置修改好了，还没有重启，此时依然是作为Observer在对外提供服务。

现在依次重启server.4、server.5，server.5成为目的集群的Leader，此时已经完全和源集群分离，立刻重启server.6，server.6作为Follower加入目的集群。

但是在目的集群重启Leader选举时，可能存在短暂的数据不一致，因为可能在server.5重启触发Leader选举时，server.6可能接收到写请求，依然转发给源Leader，所以server.6甚至是整个目的集群都尽快完成重启。

到这里基本就完成了集群的不停机动态迁移，观察一段时间目的集群的服务状态，如果正常，就可以把源集群停掉了。

这过程一旦出现问题，比如目的集群重启失败，立刻回滚第二步，然后查看目的集群的启动日志。

三、zk集群动态扩容

---

zk集群的扩容，对读请求来说是可以提升性能，但是对于写请求就未必是好事了，因为所有的写请求都需要Leader统一协调处理（两阶段提交），所以服务节点多了反而会降低写性能。

zk集群的扩容可以有两种形式，一种是扩容节点以Observer附庸在源集群上，另一种就是正常意义上扩容，给源集群加Follower节点。

依然用一台服务器搭建的伪集群演示。

1、Observer扩容

以Observer方式扩容，不参与源集群的投票和过半机制，依然可以一起加入到zk地址中对外提供服务，有如下几个优点：

• 提升源集群的读性能，对写性能影响很小。

• 可以将Observer部署在异地机房，读请求就近发送，降低延迟。

但是多多少少对写操作有一定影响，即Observer所在服务，处于无监管状态，无法确保数据都同步了，可能因为网络原因一些请求被丢弃等，需要对Observer进行监控。如果Observer部署在异地，写同步的延迟可能也会增加。

Observer扩容还有一个缺点，就是源集群的稳定性没有提高。

假设扩容的Observer服务为server.4，只需要在其zoo.cfg中如下配置即可：

server.4的zoo.cfg配置

peerType=observer

server.1 = 127.0.0.1:2688:3788

server.2 = 127.0.0.1:2689:3789

server.3 = 127.0.0.1:2690:3790

server.4 = 127.0.0.1:2691:3791:observer

2、Follower扩容

Follower扩容建议扩容服务节点数为偶数个，这样和源集群加起来就是奇数个。

在不停机，只有Leader重选时不能正常对外提供服务外，集群一直处于正常状态，照这个要求，试了多种场景，好像只有一种方式：新节点作为Follower加入源集群。

最全的Linux教程，Linux从入门到精通

======================

1. linux从入门到精通(第2版)

2. Linux系统移植

3. Linux驱动开发入门与实战

4. LINUX 系统移植 第2版

5. Linux开源网络全栈详解 从DPDK到OpenFlow

第一份《Linux从入门到精通》466页

====================

内容简介

====

本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。本书第1版出版后曾经多次印刷，并被51CTO读书频道评为“最受读者喜爱的原创IT技术图书奖”。本书第﹖版以最新的Ubuntu 12.04为版本，循序渐进地向读者介绍了Linux 的基础应用、系统管理、网络应用、娱乐和办公、程序开发、服务器配置、系统安全等。本书附带1张光盘，内容为本书配套多媒体教学视频。另外,本书还为读者提供了大量的Linux学习资料和Ubuntu安装镜像文件，供读者免费下载。

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。

需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

92edea27b825e59aa1f2c54.png)

本书适合广大Linux初中级用户、开源软件爱好者和大专院校的学生阅读，同时也非常适合准备从事Linux平台开发的各类人员。

需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！