flink临时研究小结论

flink临时研究小结论

parallelism、slot、operator

  • 每个运行中的application至少有一个taskmanager(JVM进程)。

  • 每个taskmanager至少有一个task-slot,多个task-slot的话则均分taskmanager的内存资源。

  • 一个task-slot中可以运行一到多个task,一个task-slot中可能会有一条完整的operator pipeline(就是从头到尾所有的operator过程的一套流程).

  • 一个task执行的是一到多个operator,多个operator是靠可配置的operator chains(即多个operator连接起来)来实现的。

  • operator chains可作为一种优化,可以减少线对线交接和缓冲的开销,并增加了整体吞吐量,同时减少了延迟。

  • 同一个JVM(taskmanager)中的任务共享TCP连接(通过多路复用)和心跳消息。它们还可以共享数据集和数据结构,从而减少每个任务的开销。

  • 每个slot中可以有多个线程,根据其中的task数量决定(每个task都由一个线程来执行).

  • 整个运行中的application拥有的task-slot数量决定的是任意一个task的subtask数量上限(即operator的并行度).

  • 可以给task(operator or operator chains)设置slot group、给operator设置operator chains.

上面的小结论可在官网此处验证,如有描述不准还请大家热心指出。

网摘:Flink源码org.apache.flink.streaming.api.graph.StreamingJob-raphGenerator中的
isChainable()方法定义了何种情况可以进行链接(并未验证,仅做记录

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值