Flink状态一致性之exactly-once

幂等写入:

一个操作重复执行很多次,但只导致一次结果的更改,也就是说后面重复执行就不起作用了。eg:  pow(e,x)求多阶导还等于自己,HashMap,多次写入key相同的键值对等。

但需要注意的是,也会出现中间状态短暂的不一致,最终结果一致的情景。eg:flink的checkpoint还有流批结合做关联模型转换的ETL,这些不满足强一致性,但可实现最终一致性。

 

事务写入:

构建的事务对应着checkpoint,等到checkpoint真正完成的时候,才把所有对应的结果写入sink系统中,否则可回滚、撤销事务。

1. 预写日志(Write-Ahead-Log,WAL):把结果数据先当状态,提前在状态后端中缓存,然后在收到checkpoint完成的通知后,再一次性地写入到sink系统。

  • 特点:简单易实
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值