Flink程序与数据流、数据传输与数据链

本文所用图来源网络，侵删

程序与数据流（DataFlow）

• 所有的Flink程序都是由三部分组成的： Source 、 Transformation 和 Sink。

• Source 负责读取数据源， Transformation 利用各种算子进行处理加工， Sink负责输出。

• 在运行时， Flink上运行的程序会被映射成“逻辑数据流”（ dataflows）。

• 每一个dataflow以一个或多个sources开始以一个或多个sinks结束。 dataflow  类似于任意的有向无环图（DAG）

• 在大部分情况下，程序中的转换运算（ transformations）跟dataflow中的算子（ operator）是一一对应的关系。

 

执行图（ExecutionGraph）

由Flink程序直接映射成的数据流图是StreamGraph，也被称为逻辑流图，因为它们表示的是计算逻辑的高级视图。为了执行一个流处理程序，Flink需要将逻辑流图转换为物理数据流图（也叫执行图） ，详细说明程序的执行方式。

• Flink中的执行图可以分成四层：StreamGraph -> JobGraph -> ExecutionGraph -> 物理执行图。

• StreamGraph： 是根据用户通过Stream API编写的代码生成的最初的图。用来表示程序的拓扑结构。

• JobGraph：StreamGraph经过优化后生成了JobGraph， 提 交 给JobManager的数据结构。 主要的优化为，将多个符合条件的节点chain在一起作为一个节点，这样可以减少数据在节点之间流动所需要的序列化/反序列化/传输消耗。

• ExecutionGraph：JobManager根 据JobGraph生 成ExecutionGraph。 ExecutionGraph是JobGraph的并行化版本， 是调度层最核心的数据结构。

• 物理执行图(不重要)：JobManager根 据ExecutionGraph对Job进行调度后， 在各个 TaskManager上部署Task后形成的“ 图” ，并不是一个具体的数据结构。

 

数据传输形式

Stream在算子之间传输数据的形式可以 是one-to-one(forwarding)的模式也可以是redistributing的模式，具体是哪一种形式，取决于算子的种类。

One-to-one：stream(比如在source和map operator之间)维护着分区以及元素的顺序。那意味着map算子的子任务看到的元素的个数以及顺序跟source算子的子任务生产的元素的个数、顺序相同，map、fliter、flatMap等算子都是one-to-one的对应关系，类似于spark中的窄依赖，如Task和Task之间的FORWARD。

Redistributing：stream(map()跟keyBy/window之 间 或 者keyBy/window跟sink 之间)的分区会发生改变。每一个算子的子任务依据所选择的transformation发送数据到不同的目标任务。例如，keyBy()基于hashCode重分区、broadcast和rebalance会随机重新分区，这些算子都会引起redistribute过程，而redistribute过程就类似于Spark中的shuffle过程。类似于spark中的宽依赖，如Task和Task之间的HASH、REBALANCE。

任务链（ Operator Chains）

• Flink 采用了一种称为任务链的优化技术，可以在特定条件下减少本地通信的开销。为了满足任务链的要求，必须将两个或多个算子设为相同  的并行度，并通过本地转发（ local forward）的方式进行连接。

• 相同并行度的one-to-one操作， Flink 这样相连的算子链接在一起形  成一个 task，原来的算子成为里面的 subtask。

• 同一个slot共享组

• 并行度相同、并且是 one-to-one 操作，两个条件缺一不可。

• 如果想让符合以上条件的两个Task不合并，可以设置slot共享组，代价是占用了slot资源，可以自己在二者间加入一个重分区操作，如REBANLANCE，也可以在Task代码尾部.disableChaining()禁止任务链合并，这里的禁止包括禁止与前边和后边的合并，还有一个开启新链的操作.startNewChain()，表示start前的任务链照常合并，从该处开始断开前边的链接，开启一条新链。