flink实战--StreamGraph,JobGraph,ExecutionGraph生成流程解析

简介

             Flink在提交并执行任务时,首先会生成执行计划,依次生成StreamGraph、JobGraph、 ExecutionGraph、物理执行图。其中StreamGraph和JobGraph是在client端生成的,ExecutionGraph是在JobMaster中执行的,JobMaster根据 JobGraph 生成ExecutionGraph。方便调度和监控和跟踪各个 tasks 的状态。ExecutionGraph是JobGraph的并行化版本,是调度层最核心的数据结构,本文将详细介绍这些Graph的功能以及生成流程,方便大家对Flink内部执行流程有一个清晰的全局认识。

StreamGraph、JobGraph、ExecutionGraph的功能

1.StreamGraph

             根据用户代码生成的最原始执行图,StreamGraph其实就是由用户代码中涉及到transformations转换来的,它包含两个重要元素,StreamNode和StreamEdge。StreamGraph的生成发生在用户调用了env.execute() 方法之后,而在这之前,用户编写的应用程序会转换成一个包含了Transformation的集合,SteamEdge用来表示transformation之间的连接关系,StreamNode用来表示具体的operator(算子),用来代表 operator 的类,并具有所有相关的属性,如并发度、入边和出边等。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

阿华田512

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值