kafka-生产消费实验

进行kafka的生产及消费实验测试样例
1,创建topic,分区数4,副本因子1

.\kafka-topics.bat --zookeeper localhost:2181 --create --topic my_topic_name --partitions 4 --replication-factor 1	

2,创建一个消费者属于消费者组my-group

.\kafka-console-consumer.bat --bootstrap-server localhost:9092 --group my-group --topic my_topic_name --from-beginning

3,查看消费者组的消费者成员及消费情况

 .\kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe --group my-group

在这里插入图片描述
其中可以看到创建的topic下的四个分区都属于单个消费者进行消费。
具体的参数
CURRENT-OFFSET: 当前消费组消费到的偏移量
LOG-END-OFFSET: 日志最后的偏移量
CURRENT-OFFSET = LOG-END-OFFSET 说明当前消费组已经全部消费了
如图所示暂时还没有消费生产和消费所以值暂时都为0

4,创建生产者向my_topic_name进行生产

.\kafka-console-producer.bat --broker-list localhost:9092 --topic my_topic_name

在这里插入图片描述
5,可以查看到消费者已经接收到相关信息

6,查看消费者组的消费者成员及消费情况

 .\kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe --group my-group

在这里插入图片描述
可以看到消费者将信息进行了消费,其中CURRENT-OFFSET = LOG-END-OFFSET 说明当前各个分区的消息已经被全部消费了

7,关闭掉消费者

8,生产者继续生产消息

9,再次查看消费者组的消费者成员及消费情况

 .\kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe --group my-group

在这里插入图片描述
在图中可以看到,此时没有消费者,日志的最新一条的消息offset大于,已经被消费的存储的offset记录。

10,重新创建一个消费者进行消费

.\kafka-console-consumer.bat --bootstrap-server localhost:9092 --group my-group --topic my_topic_name --from-beginning

11,再次查看消费者组的消费者成员及消费情况

 .\kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe --group my-group

在这里插入图片描述
此时可以看见CURRENT-OFFSET = LOG-END-OFFSET,说明消费被全部消费完毕。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kafka提供了一个Java客户端库`kafka-clients`,其中包含用于创建和管理消费者的类和方法。下面是一个示例,展示如何使用`kafka-clients`中的消费者类来消费Kafka消息: ```java import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.KafkaConsumer; import org.apache.kafka.common.TopicPartition; import java.time.Duration; import java.util.Collections; import java.util.Properties; public class KafkaConsumerExample { public static void main(String[] args) { String bootstrapServers = "localhost:9092"; String groupId = "my-consumer-group"; String topic = "my-topic"; // 配置消费者属性 Properties properties = new Properties(); properties.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, bootstrapServers); properties.put(ConsumerConfig.GROUP_ID_CONFIG, groupId); properties.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringDeserializer"); properties.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringDeserializer"); // 创建消费者实例 KafkaConsumer<String, String> consumer = new KafkaConsumer<>(properties); // 订阅主题 consumer.subscribe(Collections.singletonList(topic)); // 或者指定特定的分区进行订阅 // TopicPartition partition = new TopicPartition(topic, 0); // consumer.assign(Collections.singleton(partition)); // 开始消费消息 while (true) { ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(1000)); for (ConsumerRecord<String, String> record : records) { // 处理消息 System.out.println("Received message: " + record.value()); } } } } ``` 在上述示例中,首先配置了消费者的属性,包括Kafka集群地址、消费者组ID以及消息的反序列化器。然后创建了一个`KafkaConsumer`对象,并使用`subscribe`方法订阅了一个主题(或者可以使用`assign`方法指定特定的分区进行订阅)。 最后,在一个无限循环中调用`poll`方法来获取消息记录,然后遍历处理每条消息。 需要注意的是,消费者需要定期调用`poll`方法以获取新的消息记录。另外,消费者还可以使用`commitSync`或`commitAsync`方法手动提交消费位移,以确保消息被成功处理。 希望以上示例对你理解如何使用`kafka-clients`库中的消费者类来消费Kafka消息有所帮助!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值