kafka-mirror-maker.sh脚本

一、MirrorMaker介绍
MirrorMaker是Kafka附带的一个用于在Kafka集群之间制作镜像数据的工具。该工具从源集群中消费并生产到目标群集。这种镜像的常见用例是在另一个数据中心提供副本。
其实现原理是通过从源集群中消费消息,然后将消息生产到目标集群中,也就是普通的生产和消费消息。
用户只需要在启动Kafka Mirror Maker时指定一些简单的消费端和生产端配置就可以实现准实时的数据同步。
二、kafka-mirror-maker.sh脚本参数
kafka-mirror-maker.sh脚本中有多个可配置的参数,如下表所示:
参数 释义
abort.on.send.failure 默认为true,决定生产者写入失败时的处理机制
consumer.config 用于指定消费者的配置文件,配置文件里有两个必填的参数:bootstrap.servers 和 group.id
consumer.rebalance.listener 指定再均衡监听器
help 打印帮助信息
message.handler 指定消息的处理器。这个处理器会在消费者消费到消息之后且在生产者发送消息之前被调用
message.handler.args 指定消息处理器的参数,同message.handler一起使用
num.streams 指定消费线程的数量
offset.commit.interval.ms 指定消费位移提交间隔
producer.config 用于指定生产者的配置文件,配置文件里唯一必填的参数是 bootstrap.servers
rebalance.listener.args 指定再均衡监听器的参数,同consumer.rebalance.listener一起使用
whitelist 指定需要复制的源集群中的主题。这个参数可以指定一个正则表达式,比如a|b表示复制源集群中主题a和主题b的数据。为了方便

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值