Kafka 消息偏移量的维护

Kafka是大数据领域常用的消息队列,其高效的吞吐量和分布式容错等特性是其收到青睐的重要原因。

kafka消息的位置

用好Kafka,维护其消息偏移量对于避免消息的重复消费与遗漏消费,确保消息的Exactly-once是至关重要的。
kafka的消息所在的位置Topic、Partitions、Offsets三个因素决定。
Kafka消费者消费的消息位置还与consumer的group.id有关。

consumerOffsets与earlieastLeaderOffsets的关系

名称 含义
earlieastLeaderOffsets 存储在broker上的leader节点的最早的消息偏移量
consumerOffsets 消费者消费的消息偏移量位置

为了表述方便,我们记earlieastLeaderOffsets为A,记consumerOffsets为B 。

  • 情况一:正常情况下,消费的消息偏移量应该大于broker上存储的最早的消息偏移量,即 A < B:
    这里写图片描述

  • 2
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
Kafka偏移量(offset)是用来标识消费者在一个特定分区中已经消费的消息的位置。Kafka提供了两种方式来存取偏移量:使用内部存储和外部存储。 1. 内部存储:Kafka内部使用一个特殊的主题(__consumer_offsets)来存储消费者的偏移量信息。每个消费者组在该主题中有一个对应的分区来保存其消费的偏移量Kafka集群自动维护和管理这个主题,确保偏移量的持久化和一致性。 2. 外部存储:除了使用内部存储方式,Kafka还支持将偏移量存储在外部系统中,如ZooKeeper或自定义的存储系统。在这种情况下,消费者需要自己负责管理和维护偏移量的存储和读取。 使用内部存储方式时,消费者可以通过以下步骤来存取偏移量: - 初始化消费者时,指定所属的消费者组和要消费的主题。 - 消费者在处理每条消息后,自动将消费的偏移量提交给Kafka集群。这可以通过自动提交或手动提交来实现。 - 自动提交:消费者定期将偏移量提交给Kafka,由Kafka集群负责管理提交的偏移量。 - 手动提交:消费者可以在适当的时机手动提交偏移量,以确保消息被正确消费。手动提交可以选择同步提交或异步提交。 使用外部存储方式时,消费者需要自己实现偏移量的存储和读取逻辑。一般情况下,消费者使用外部存储系统提供的API来操作偏移量。 总之,Kafka提供了内部存储和外部存储两种方式来存取偏移量,可以根据实际需求选择适合的方式。
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值