Flink checkpoint原理

本文深入探讨了Flink中的checkpoint与state的关系,详细阐述了state的分类,包括keyed state和operator state,以及managed state和Raw state的区分。Flink的checkpoint执行机制通过barrier对齐确保exactly_once语义,而Savepoint和externalized checkpoint则有其特定区别。文中还介绍了state的存储方式和如何在Flink中使用state。
摘要由CSDN通过智能技术生成

目录

 

1. checkpoint与state的关系

2. Flink中的state

2.1 state分类

2.1.1 keyed state

2.1.2 operator state

2.1.3 从Flink是否直接接管的角度来区分state

2.2 在Flink中使用state

2.2.1通过RuntimeContext访问state

2.2.2 通过FunctionInitialzationContext访问state

2.3 状态state的存储

3. Flink中的checkpoint执行机制详解

4 . checkpoint 的exactly_once语义

5. Savepoint和externalized checkpoint的区别

6. 参考链接


1. checkpoint与state的关系

state就是checkpoint所做的主要持久化备份的主要数据

2. Flink中的state

state主要分为keyed state和operator state

2.1 state分类

2.1.1 keyed state

 

2.1.2 operator state

又称non-keyed state,与一个operator的实例绑定;常见的operator state是source state,例如记录当前source的offset。

例如 env.fromElements(WordCountData.WORDS)。fromeElements会调用FromElementsFunction的类,其中就使用了类型为lis

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值