[Kafka权威指南] Chapter 4. Kafka消费者:消费数据

本文介绍了Kafka的Consumer Group概念,说明了如何分布消息以及不同Consumer Group间的消息处理。讨论了Partition Rebalance的情况,以及Consumer的属性,包括自动和手动提交Offset的策略,分析了重复处理和漏处理的可能性及其影响。
摘要由CSDN通过智能技术生成

Consumer Group

What is Consumer Group ?

Case:前端采集的数据通过Kafka Topic回传至后端分析程序,但是单个分析线程(Consumer)很有可能忙不过来。

既然单个消费者忙不过来,那就多来几个消费者。此时,这些消费者就构成了一个小团队。

Topic中的消息在被分割、摊派后,每个成员(消费者)就自顾自地忙自己那部分。

在Kafka中,这个团队称为”Consumer Group”。

How to distribute Messages ?

至于同一个Topic中的Message如何摊派呢? 

一个Partition给一个消费者。 一对一的形式,易于Partition offset的管理。

当然,Consumer可以同时处理多个Partition。

there is no point in adding more consumers than you have partitions in a topic

But there is no point in adding more consumers than the partitions in a topic. : )

 

Between Consumer Groups ?

Another

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值