文章目录
1 日志文件保留相关配置参数
NAME | DESCRIPTION | TYPE | DEFAULT | VALID VALUES |
---|---|---|---|---|
log.retention.bytes | 日志文件大小超过该配置则删除 | long | -1(no limit) | |
log.retention.hours | 日志文件保存时间超过该配置则删除 | int | 168(7d) | |
log.retention.minutes | 日志文件保存时间超过该配置则删除 | int | null | |
log.retention.ms | 日志文件保存时间超过该配置则删除 | long | null | |
log.retention.check.interval.ms | 检查是否有日志文件需要删除区间 | long | 300000(5m) | [1,…] |
2 自动重置消费位移相关配置参数
NAME | DESCRIPTION | TYPE | DEFAULT | VALID VALUES |
---|---|---|---|---|
auto.offset.reset | 当消费者没有提供offset或者提供的offset越界(比如offset处的日志数据已经过期删除或者大于当前最大offset等等)时的处理策略: earliest:从头开始消费 latest: 从尾开始消费 none:抛异常如果消费者组没有已提交的offset other:抛异常 |
string | latest | [latest, earliest, none] |
3 环境
- kafka version:0.11
- log.retention.minutes:1
- log.retention.check.interval.ms:1000
4 验证
4.1 auto.offset.reset:latest
4.1.1 不存在历史提交消费位移
4.1.1.1 不提供消费位移
- 从尾消费数据
- 正常消费新数据
4.1.1.2 提供过期消费位移
- Fetch offset is out of range for parti