Kafka 之 offset 自动提交

Kafka 之 offset 自动提交

1)编写代码

需要用到的类:

KafkaConsumer:需要创建一个消费者对象,用来消费数据

ConsumerConfig:获取所需的一系列配置参数

ConsuemrRecord:每条数据都要封装成一个ConsumerRecord对象

​ 为了使我们能够专注于自己的业务逻辑,Kafka提供了自动提交offset的功能。

​ 自动提交offset的相关参数:

enable.auto.commit:是否开启自动提交offset功能

auto.commit.interval.ms:自动提交offset的时间间隔

2)消费者自动提交offset
package com.xiaoxiao.kafka.consumer;

import org.apache.kafka.clients.consumer.ConsumerConfig;
import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

import java.time.Duration;
import java.util.ArrayList;
import java.util.List;
import java.util.Properties;

/**
 * 消费者对象
 * @author xiaohu
 * @create 2020-08-28 19:42
 */
public class ConsumerDemo {
    public static void main(String[] args) {

        //0.创建配置对象
        Properties props = new Properties();

        //指定Kafka集群的位置
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG,"hadoop102:9092");

        //指定消费者组
        props.put(ConsumerConfig.GROUP_ID_CONFIG,"xiaoxiao");

        //自动提交offset
        props.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG,"true");

        //提交offset间隔
        props.put(ConsumerConfig.AUTO_COMMIT_INTERVAL_MS_CONFIG,"1000");

        //key 和 value 的反序列化
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG,"org.apache.kafka.common.serialization.StringDeserializer");
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG,"org.apache.kafka.common.serialization.StringDeserializer");

 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
好的,针对你的问题,我可以为您提供以下的解答和代码示例: Kafka 自动提交 Offset 是指消费者在消费消息时,会自动将该消费者最近一次消费的消息偏移量(Offset提交Kafka 中。这种方式可以减轻开发人员的负担,但也可能会导致数据重复消费或漏消费的问题。因此,自动提交 Offset 应该谨慎使用。 下面是一个使用 Kafka 自动提交 Offset 的示例代码: ```java import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.KafkaConsumer; import org.apache.kafka.common.serialization.StringDeserializer; import java.util.Collections; import java.util.Properties; public class KafkaAutoCommitOffsetDemo { public static void main(String[] args) { Properties props = new Properties(); props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092"); props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-group"); props.put(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "earliest"); props.put(ConsumerConfig.ENABLE_AUTO_COMMIT_CONFIG, "true"); // 开启自动提交 Offset props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props); consumer.subscribe(Collections.singletonList("test-topic")); while (true) { ConsumerRecords<String, String> records = consumer.poll(1000); for (ConsumerRecord<String, String> record : records) { System.out.printf("offset = %d, key = %s, value = %s\n", record.offset(), record.key(), record.value()); } } } } ``` 在上面的代码中,我们通过设置 `ENABLE_AUTO_COMMIT_CONFIG` 属性为 `true` 来开启自动提交 Offset。这样,消费者在每次调用 `poll()` 方法获取消息时,都会把最近一次消费的消息偏移量提交Kafka 中。 需要注意的是,自动提交 Offset 的时间间隔可以通过 `auto.commit.interval.ms` 属性进行配置,默认值为 5000 毫秒。如果想要更加精细地控制 Offset提交,可以将 `ENABLE_AUTO_COMMIT_CONFIG` 属性设置为 `false`,然后在代码中手动调用 `commitSync()` 或 `commitAsync()` 方法提交 Offset。 希望以上的代码示例和解答能够对您有所帮助。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值