kafka迁移方案

背景

目前线上环境有200套kafka集群,且kafka的版本有0.10、2.0等版本。需要在不影响业务的情况下迁移到kafka2.5版本。

方案

结合目前Kafka集群的现状建议采用两个集群数据同步的方式进行迁移,采用数据同步的方式迁移可以不影响Kafka的业务使用方,同时可以使用zookeeper的新版本。具体Kafka迁移方案如下:

迁移步骤如下:

Ø 在部署了Kafka2.5版本的集群上初始化客户原有Kafka2.0集群的数据,包含用户、权限、topic等数据。

Ø 从Kafka2.0的集群上同步各个topic数据至Kafka2.5的集群,直至两个集群的数据完全一致。在进行数据同步的过程要保证两个集群的offset保持一致。

Ø 修改Kafka生产者的IP、端口为部署了Kafka2.5版本的集群。

Ø 修改Kafka消费者的IP、端口为部署了Kafka2.5版本的集群。

Ø 停止两个集群间的数据同步,同时删除Kafka2.0集群的各个节点并进行资源回收。

欢迎大家指出这种方案的优劣势

国内最大最权威的 Kafka中文社区 ,在这里你可以结交各大互联网Kafka大佬以及近2000+Kafka爱好者,一起实现知识共享,实时掌控最新行业资讯,免费加入中~

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值