kafka日志文件保留及自动重置消费位移相关配置验证

本文详细介绍了在不同Kafka配置下,当消费位移丢失或错误时,如何处理并验证auto.offset.reset策略的效果,包括latest、earliest和none三种情况,涉及到历史提交消费位移存在与否的多种场景。
摘要由CSDN通过智能技术生成

1 日志文件保留相关配置参数

NAME DESCRIPTION TYPE DEFAULT VALID VALUES
log.retention.bytes 日志文件大小超过该配置则删除 long -1(no limit)
log.retention.hours 日志文件保存时间超过该配置则删除 int 168(7d)
log.retention.minutes 日志文件保存时间超过该配置则删除 int null
log.retention.ms 日志文件保存时间超过该配置则删除 long null
log.retention.check.interval.ms 检查是否有日志文件需要删除区间 long 300000(5m) [1,…]

2 自动重置消费位移相关配置参数

NAME DESCRIPTION TYPE DEFAULT VALID VALUES
auto.offset.reset 当消费者没有提供offset或者提供的offset越界(比如offset处的日志数据已经过期删除或者大于当前最大offset等等)时的处理策略:
earliest:从头开始消费
latest: 从尾开始消费
none:抛异常如果消费者组没有已提交的offset
other:抛异常
string latest [latest, earliest, none]

3 环境

  • kafka version:0.11
  • log.retention.minutes:1
  • log.retention.check.interval.ms:1000

4 验证

4.1 auto.offset.reset:latest

4.1.1 不存在历史提交消费位移

4.1.1.1 不提供消费位移
  • 从尾消费数据
  • 正常消费新数据
4.1.1.2 提供过期消费位移
  • Fetch offset is out of range for parti
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值