Kafka Consumer API样例

最新推荐文章于 2024-08-04 18:29:42 发布

Quan.S

最新推荐文章于 2024-08-04 18:29:42 发布

阅读量4.5w

点赞数 26

分类专栏： kafka 文章标签： kafka consumer api

本文链接：https://blog.csdn.net/xianzhen376/article/details/51167742

版权

本文详细介绍了Kafka Consumer API的使用，包括自动确认Offset、手工控制Offset、分区订阅、外部存储offset、控制消费位置、消费流控制以及多线程处理模型。重点讨论了在不同场景下如何选择合适的消费策略，如单线程与多线程模型的优缺点，并提供了实例说明。

摘要由CSDN通过智能技术生成

Kafka Consumer API样例

1. 自动确认Offset

说明参照：http://blog.csdn.net/xianzhen376/article/details/51167333

Properties props = new Properties();
/* 定义kakfa 服务的地址，不需要将所有broker指定上 */
props.put("bootstrap.servers", "localhost:9092");
/* 制定consumer group */
props.put("group.id", "test");
/* 是否自动确认offset */
props.put("enable.auto.commit", "true");
/* 自动确认offset的时间间隔 */
props.put("auto.commit.interval.ms", "1000");
props.put("session.timeout.ms", "30000");
/* key的序列化类 */
props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
/* value的序列化类 */
props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
 /* 定义consumer */
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
/* 消费者订阅的topic, 可同时订阅多个 */
consumer.subscribe(Arrays.asList("foo", "bar"));

 /* 读取数据，读取超时时间为100ms */
while (true) {
    ConsumerRecords<String, String> records = consumer.poll(100);
    for (ConsumerRecord<String, String> record : records)
        System.out.printf(