kafka rebalance ConsumerRebalanceListener

kafka在有新消费者加入或者撤出时,会触发rebalance操作,在subscribe订阅主题的时候,我们可以编写回掉函数,在触发rebalance操作之前和之后,提交相应偏移量和获取偏移量。

consumer.subscribe(Collections.singletonList(topic), new SaveOffsetOnRebalance(mulConsumer));
class SaveOffsetOnRebalance implements ConsumerRebalanceListener {
        private Consumer<String, String> consumer;
 
        //初始化方法,传入consumer对象,否则无法调用外部的consumer对象,必须传入
        public SaveOffsetOnRebalance(Consumer<String, String> consumer) {
            this.consumer = consumer;
        }
 
        @Override
        public void onPartitionsRevoked(Collection<TopicPartition> collection) {
            
            //提交偏移量 主要是consumer.commitSync(toCommit); 方法
            System.out.println("*- in ralance:onPartitionsRevoked");
            //commitQueue 是我本地已消费消息的一个队列 是一个linkedblockingqueue对象
            while (!commitQueue.isEmpty()) {
                Map<TopicPartition, OffsetAndMetadata> toCommit = commitQueue.poll();
                consumer.commitSync(toCommit);
            }
        }
 
        @Override
        public void onPartitionsAssigned(Collection<TopicPartition> collection) {
            //rebalance之后 获取新的分区,获取最新的偏移量,设置拉取分量
            System.out.println("*- in ralance:onPartitionsAssigned  ");
            for (TopicPartition partition : collection) {
                System.out.println("*- partition:"+partition.partition());
 
                //获取消费偏移量,实现原理是向协调者发送获取请求
                OffsetAndMetadata offset = consumer.committed(partition);
                //设置本地拉取分量,下次拉取消息以这个偏移量为准
                consumer.seek(partition, offset.offset());
            }
        }
    }

onPartitionRevoked会在rebalance操作之前调用,用于我们提交消费者偏移,onPartitionAssigned会在rebalance操作之后调用,用于我们接取新的分配区的偏移量。

注意enable.auto.commit为false,防止自动提交偏移量。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值