SpringBoot 集成 kafka,并消费历史事件

SpringBoot 集成 kafka,并消费历史事件

消费历史事件

上一篇文章我们讲的是 SpringBoot 集成 kafka 消费最新的事件,如果没有看过的小伙伴可以看这篇文章:SpringBoot 集成 kafka

那如果我们想消费历史的事件应该怎么办呢?

方法一:更换消费者组 id

第一步 在 application.yml 文件中新增配置
spring:
  application:
    # 应用名称
    name: kafka-01-base
  kafka:
    # kafka 连接地址
    bootstrap-servers: 39.105.58.131:9092
    consumer:
      # 让消费者从最早的事件开始消费
      auto-offset-reset: earliest
第二步 更换消费者组 id

我们在上一篇文章中使用的消费者组 id 为:hello-group,我们随意更换一个名字即可,我这里更换为:hello-group-02

package com.wanfeng.consumer;

import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;

/**
 * 作者:晚枫
 * 时间:2024/9/1 9:00
 */
@Component
public class EventConsumer {

    // 采用监听的方式接收事件
    // topics 指定需要监听的主题
    // groupId 指定消费者组 id
    @KafkaListener(topics = "hello", groupId = "hello-group-02")
    public void onEvent(String event) {
        System.out.println("接收到的事件为:" + event);
    }
}

其他地方都不需要修改,然后我们启动程序去消费事件即可。

我们为什么要更换消费者组 id 呢?

因为我们已经使用过 hello-group 这个消费者 id 消费 hello 这个主题了,并且 kafka 已经保存了 hello-group 消费者组的偏移量,那么即使我们设置了 auto.offset.reset=earliest, 这个设置也不会生效,因为 kafka 只会在找不到偏移量的时候使用这个配置。

如果我们想继续使用 hello-group 这个消费者组对 hello 这个主题进行消费,并消费 hello 主题里面的历史事件可以吗?

答案是可以的,我们可以使用 kafka 提供的脚本来修改偏移量,来达到消费历史事件的目的

方法二:手动重置偏移量

SpringBoot 集成 kafka 这篇文章的基础上,什么都不需要修改,直接执行以下命令,就可以达到使用相同消费者组对同一个主题消费历史事件的目的了。

kafka-consumer-groups.sh --bootstrap-server localhost:9092 --group hello-group --topic hello --reset-offsets --to-earliest --execute

如果我们在执行这条命令出现以下错误的时候,我们把 Java 程序停止后再执行就可以了

Error: Assignments can only be reset if the group 'hello-group' is inactive, but the current state is Stable.
  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我可以为你提供一些简单的指导。首先,你需要在你的Spring Boot项目中添加Kafka的依赖,可以在pom.xml文件中添加如下代码: ```xml <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</artifactId> <version>2.8.0</version> </dependency> ``` 接下来,你需要创建一个Kafka的生产者和消费者。你可以使用Spring Boot提供的KafkaTemplate来创建一个生产者,代码如下: ```java @Autowired private KafkaTemplate<String, String> kafkaTemplate; public void sendMessage(String message) { kafkaTemplate.send("test_topic", message); } ``` 上述代码中,我们使用@Autowired注解来自动注入KafkaTemplate实例,并且使用send()方法来发送消息到名为“test_topic”的Kafka主题。 对于消费者,你需要创建一个Kafka监听器来监听Kafka主题中的消息,代码如下: ```java @Service public class KafkaConsumer { @KafkaListener(topics = "test_topic") public void consume(String message) { System.out.println("Received message: " + message); } } ``` 上述代码中,我们使用@Service注解将KafkaConsumer类声明为Spring Boot的服务,并且使用@KafkaListener注解指定监听的Kafka主题为“test_topic”。当收到消息时,consume()方法将会被调用,并打印出接收到的消息。 最后,你还需要添加一个定时任务来定时消费Kafka消息。你可以使用Spring Boot提供的@Scheduled注解来创建定时任务,代码如下: ```java @Service public class KafkaConsumer { @Autowired private KafkaTemplate<String, String> kafkaTemplate; @KafkaListener(topics = "test_topic") public void consume(String message) { System.out.println("Received message: " + message); } @Scheduled(fixedDelay = 5000) public void consumeMessages() { // poll messages from Kafka } } ``` 上述代码中,我们使用@Scheduled注解创建一个每5秒钟调用一次的定时任务,并在consumeMessages()方法中添加代码来从Kafka中拉取消息。 希望这些代码对你有所帮助!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值