研磨Kafka之消费者

1、消费方式 

consumer 采用 pull（拉）模式从 broker 中读取数据。 push（推）模式很难适应消费速率不同的消费者，因为消息发送速率是由 broker 决定的。它的目标是尽可能以最快速度传递消息，但是这样很容易造成 consumer 来不及处理消息，典型的表现就是拒绝服务以及网络拥塞。而 pull 模式则可以根据 consumer 的消费能力以适当的速率消费消息。 pull 模式不足之处是，如果 kafka 没有数据，消费者可能会陷入循环中，一直返回空数据。针对这一点，Kafka 的消费者在消费数据时会传入一个时长参数 timeout，如果当前没有数据可供消费，consumer 会等待一段时间之后再返回，这段时长即为 timeout。 

2、 分区分配策略 （后面专门讲解）

一个 consumer group 中有多个 consumer，一个 topic 有多个 partition，所以必然会涉及到 partition 的分配问题，即确定那个 partition 由哪个 consumer 来消费。 Kafka 有两种分配策略，一是 RoundRobin，一是 Range。

1）RoundRobin （有group划分）

当一个 consumer group里订阅了多个topic，那么kafka会将多个topic的分区放在一起排序，然后再做RoundRobin轮询

2）Range （有topic划分）

3、 offset 的维护 

由于 consumer 在消费过程中可能会出现断电宕机等故障，consumer 恢复后，需要从故障前的位置的继续消费，所以 consumer 需要实时记录自己消费到了哪个 offset，以便故障恢复后继续消费。

Kafka 0.9 版本之前，consumer 默认将 offset 保存在 Zookeeper 中，从 0.9 版本开始，consumer 默认将 offset 保存在 Kafka 一个内置的 topic 中，该 topic 为__consumer_offsets。

读取__consumer_offsets的配置

1）修改配置文件 consumer.properties 

exclude.internal.topics=false 

2）读取 offset 

0.11.0.0 之前版本: 

bin/kafka-console-consumer.sh --topic __consumer_offsets -zookeeper master:2181 --formatter "kafka.coordinator.GroupMetadataManager\$OffsetsMessageFormatter" --consumer.config config/consumer.properties --from-beginning 

0.11.0.0 之后版本(含): 

bin/kafka-console-consumer.sh --topic __consumer_offsets -zookeeper master:2181 --formatter "kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageForm atter" --consumer.config config/consumer.properties --frombeginning

4、消费者客户端消费方式（消费者客户端是线程不安全）

（1）使用一个消费者，多个线程处理消息

注意：此时该模式offset不方便手动提交，所以要设置自动提交，因此对于消息的完整性，一致性要求高的不太适合。

（2）多个消费者消费

注意：该模式可以手动提交offset，但是会创建多个消费者，要考虑好消费者之间线程安全问题。

5、消费者Rebalance

（1）加入新的消费者

（2）消费者通信超时

（3）消费者主动离组

提交offset

如果在超时时间内提交offset成功，则还好，如果没有提交成功，则有可能出现消息重复消费