思维导图:
引言
这篇文章的主要内容是介绍Kafka消费者的一般的使用流程以及比较特殊的操作,所以本文共分为以下两个部分:
- 基本流程 : 主要包括创建实例,消息订阅,消息消费,位移提交,消费控制等内容。
- 其他处理 : 主要是一些其他的处理,例如指定位移消费,消费者拦截器等操作。
一.基本流程
Kafka消费者的基本流程一般来说都是必要的。也代表着消费者的基本使用逻辑。
1.1 创建实例
创建一个消费者实例必要的参数设置如下:
public class ConsumerClient {
/**
* Kafka集群地址
*/
private static final String BROKE_LIST = "192.168.42.128:9092,192.168.42.128:9093,192.168.42.128:9094";
/**
* 主题名称
*/
private static final String TOPIC_NAME = "topic-testTopic";
/**
* 组ID
*/
private static final String GROUP_ID = "group.demo";
/**
* 消费者对象
*/
private KafkaConsumer<String,String> consumer;
/**
* 构造方法,初始化消费者对象实例
*
* @author : zhouhao
* @date : 2019/5/29 7:47
*/
public ConsumerClient(){
Properties properties = new Properties();
//服务器集群地址
properties.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG,BROKE_LIST);
//Key 的 反序列器
properties.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
//Value 的反序列化器
properties.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG,StringDeserializer.class.getName());
// 消费者所属消费组
properties.put(ConsumerConfig.GROUP_ID_CONFIG,GROUP_ID);
consumer = new KafkaConsumer<>(properties);
}
}
可以看到,与生产者不同的时,消费者创建时的必要参数多了一个消费组的概念,所以,我们需要了解到底什么是消费组?
1.1.1 消费组
消费组是在消费者之上的一层概念,他的主要作用是使得同一个消费组的的消费者可以均匀的分配所订阅主题的分区。如下图:消费者A,B都订阅了某主题,但是A,B中的消费者个数不同,所以A,B消费组内对于此主题的分区的分配情况也不同