我说flink基本概念task、sub task、operator chain

在这里插入图片描述

一,operator 算子

把operator翻译成算子,真是没谁了,众口铄金,大家现在都这样叫了。

operator代表对数据的各种操作,包括从数据源获取数据,把计算结果输出到存储,以及从获取数据到输出数据的过程中对数据的各种处理。

按照官方的说法,算子分为source/transformation/sink三种,source和sink都比较简单,重点要掌握的是transformation。

transformation根据算子的功能可以分为四类:普通算子、分组算子(keyby/group by)、流拆合算子、分区算子。

  • 普通算子就是对数据进行常规计算和转换,如map、flatMap
  • 分组算子主要是keyBy,groupBy是Dataset的api,使用的较少。准确的说,keyBy代表一系列算子,因为很多算子只有在keyBy产生的keyedStream才能使用,如reduce、max、min、sum等等
  • 流拆合算子,包括将多个流合并为一个流如union、connect;将一个流拆分为多个流,如split
  • 分区算子:将数据依据一定的规则分别发送到下游任务中去,有四种:reblance、rescale、shuffle、广播

二,operator chain 和 task

数据往往需要一系列由先后顺序的算子合作才能计算出预期的结果。处理source和sink算子外,其他算子都有输入和输出,下游算子的输出将作为下游算子的输入。如果上游算子和下游算子不在一个taskslot,则需要数据传输:包括数据的序列化和反序列化、数据传输,这会导致任务的高延迟。

flink对计算过程中满足条件的算子组合成一个算子链,这个算子链在逻辑上是一个task,会在同一个taskslot执行,并且数据不需要序列化和反序列化,提升系统的性能。

组成operator chain的算子需要满足一定的条件:都是one to one的算子,上游的输出不会被分发到不同的下游任务,下游算子的输入来自一个上游算子的输出。

当然还有一些其他的限制:比方说要开启算子链、算子的算子链属性必须要满足条件

三,subtask

task是逻辑上的概念,可能是一个算子,也可能是一个算子链。

在运行时,通常一个task会有大于1的并行度,同一个task会并行执行在多个taskslot上,执行在taskslot上的task称之为task的subtask。

  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Flink 是一个流式处理和批处理的分布式计算框架。它具有以下基本概念: 1. 事件流(Event Stream):Flink 是一个流式处理框架,它能够处理连续的事件流。事件流可以是无界的(无限延续)或有界的(有一个结束点)。Flink 可以对这些事件流进行高效的处理和转换。 2. 作业(Job):在 Flink 中,用户定义的流处理或批处理任务被称为作业。一个作业由一个或多个算子(operator)组成,每个算子接收输入数据流并产生输出数据流。 3. 算子(Operator):算子是 Flink 中执行计算的基本单位。它可以是数据源(source)、转换操作(transformation)或数据接收器(sink)。算子接收一个或多个输入数据流,并生成一个或多个输出数据流。 4. 窗口(Window):窗口是 Flink 中用于对事件流进行分组和聚合操作的机制。窗口可以根据事件的时间或者数量进行划分,然后在窗口上应用聚合操作。 5. 状态(State):状态是 Flink 中用于存储和管理用户定义的数据的机制。状态可以在算子之间共享和传递,从而实现复杂的计算逻辑。 6. 检查点(Checkpoint):检查点是 Flink 中实现容错的机制,用于保证在发生故障时能够从故障中快速恢复。检查点会定期将应用程序的状态保存到持久化存储中,并可以用于重新启动应用程序。 这些是 Flink 的一些基本概念,它们共同构成了 Flink 的核心功能和特性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小手追梦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值