flink中KafkaTopicPartitionState的offset与committedOffset

KafkaTopicPartitionState的变量如下:

offset表示已经处理的偏移量,committedOffset表示已经提交的偏移量,按道理来说恒有offset>committedOffset。

接下来根据代码执行顺序有如下代码片段:

可以看出,每次consumer poll完数据后就会设置新的offset,即调用setOffset。

 

然后我们看每次getOffset会在哪儿调用

可以看出,是在ck的snapshotState环节调用的,同时把offset放到了pendingOffsetsToCommit(待提交的偏移量)中。

 

然后我们看setCommittedOffset。

跟代码可以发现这是在ck的notifyCheckpointComplete环节实现的。

可以得出结论offset>committedOffset。

 

最后,运行测试类KafkaITCase中的testBrokerFailure方法可以发现如下情况:

得证offset>committedOffset

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值