flink 三种时间机制_【Flink 精选】Checkpoint 机制如何保证 Exactly-Once 语义

82eb09b2744681a00a36cae6c9d00210.png

问题1:阐述 Flink 提供的三种数据处理语义,解释 Checkpoint 机制如何保证 Flink 程序结果的 Exactly-Once 语义?

问题2:结合 Kafka 分析,如何通过两阶段提交协议,提供端到端的 Exactly-Once 处理?


1.Flink 提供的三种数据处理语义

At-Most-Once最多一次,如果产生故障,可能丢失数据。 ② At-Least-Once最少一次,如果产生故障,可能有重复数据。 ③ Exactly-Once精确一次,如果产生故障,也能保证数据不丢失不重复。

// At-Least-Once 最多一次
CheckpointingMode.AT_LEAST_ONCE

// Exactly-Once 精确一次
CheckpointingMode.AT_LEAST_ONCE
flink 新版本已经不提供 At-Most-Once 语义。

2.Checkpoint 机制保证 Exactly-Once 语义

结论: Checkpoint Barrier 对齐机制实现 Exactly-Once 语义。如果 Barrier 不对齐,即 At Least Once 语义。

Flink 分布式异步快照的核心是 Checkpoint 机制,其关键是采用标记信号 Barrier,使得数据流被切分成微批,进行 Checkpoint 保存状态数据,如下图所示。

62640b7ee0f8abfc3612b4b9bc848db7.png

Checkpoint

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值