Flink如何保证exactly-once

每处理完一笔数据,更改完状态后进行一次快照,快照包含在队列中并与相应的状态进行对比,完成一致的快照,就能确保精确一次。

Flink作为分布式的处理引擎,在分布式的场景下,进行多个本地状态的运算,只产生一个全域一致的快照(Global consistent snapshot),如需要在不中断运算值的前提下产生全域一致的快照,就涉及到分散式状态容错。

Flink的分散式快照(Distributed Snapshots)方法采用 Chandy lamport 算法改进。

将节点作为一个点,链路作为边,可以将分布式系统看作一个有向图,那么分布式快照需要记录两个东西(节点自身状态(S),发出到链路中的数据但还未到达下一个节点的数据(M)),由于数据是不中断的,那么对于发出去的数据需要有一个分隔符来分割,M和S保存后发出去的数据。Chandy lamport使用marker作为分割符,marker与一般的数据不同,可以被节点识别出来,当节点识别出来后,就说明这个快照的数据已经全部到达,可以将快照信息保存到对应的文件系统。

Flink则采用Checkpoint barrier作为分隔符,与Chandy lamport相似。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值