java kafka关闭连接_消耗关于Kafka主题的所有消息并断开连接

我有一个批处理工作,每天会触发一次 . 要求是

消耗那时候Kafka主题上可用的所有消息

处理消息

如果该过程成功完成,则提交偏移量 .

目前我在while循环中poll()消息,直到ConsumerRecords.isEmpty()为真 . 当ConsumerRecords.isEmpty()为true时,我假设已经消耗了Topic上可用的所有记录 . 该应用程序维护偏移并关闭kafka消费者 .

当消息处理完成并成功完成后,我创建了一个新的KafkaConsumer并提交了应用程序维护的偏移量 .

注意我关闭最初用于读取消息的KafkaConsumer并使用另一个KafkaConsumer实例提交偏移量以避免消费者重新 balancer 异常 .

我期待主题上最多5k条消息 . 该主题已分区并复制 .

有没有更好的方法在特定时间点消费主题上的所有消息?我有什么遗失或需要照顾的吗?我不认为我需要处理消费者重新 balancer ,因为我在循环中对poll()进行轮询并在轮询完成后处理消息 .

我正在使用java kafka客户端v0.9,如果它在上面的场景中有帮助,可以更改为v0.10 .

谢谢

更新:

AtomicBoolean flag = new AtomicBoolean();

flag.set(true);

while(flag.get()) {

ConsumerRecords consumerRecords = kafkaConsumer.poll(timeout);

if(consumerRecords.isEmpty()) {

flag.set(false);

continue;

}

//if the ConsumerRecords is not empty process the messages and continue to poll()

}

kafkaConsumer.close();

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值