1.17.Flink 并行度详解(Parallel)、TaskManager与Slot、Operator Level、Execution Environment Level、Client Level等

1.17.Flink 并行度详解(Parallel)
1.17.1.TaskManager与Slot
1.17.2.TaskManager与Slot
1.17.3.并行度(Parallel)
1.17.4.并行度(Parallel)的设置
1.17.4.1.并行度设置之Operator Level
1.17.4.2.并行度设置之Execution Environment Level
1.17.4.3.并行度设置之Client Level
1.17.4.4.并行度设置之System Level

1.17.Flink 并行度详解(Parallel )

1.17.1.TaskManager与Slot

Flink的每个TaskManager为集群提供solt。 solt的数量通常与每个TaskManager节点的可用CPU内核数成比例。一般情况下你的slot数是你每个节点的cpu的核数。
在这里插入图片描述

1.17.2.TaskManager与Slot

在这里插入图片描述

1.17.3.并行度(Parallel)

一个Flink程序由多个任务组成(source、transformation和 sink)。 一个任务由多个并行的实例(线程)来执行, 一个任务的并行实例(线程)数目就被称为该任务的并行度。

1.17.4.并行度(Parallel)的设置

一个任务的并行度设置可以从多个层次指定
Operator Level(算子层次)
Execution Environment Level(执行环境层次)
Client Level(客户端层次)
System Level(系统层次)

1.17.4.1.并行度设置之Operator Level

一个算子、数据源和sink的并行度可以通过调用 setParallelism()方法来指定
在这里插入图片描述

1.17.4.2.并行度设置之Execution Environment Level

执行环境(任务)的默认并行度可以通过调用setParallelism()方法指定。为了以并行度3来执行所有的算子、数据源和data sink, 可以通过如下的方式设置执行环境的并行度:

  • 执行环境的并行度可以通过显式设置算子的并行度而被重写。
    在这里插入图片描述
1.17.4.3.并行度设置之Client Level

并行度可以在客户端将job提交到Flink时设定。
对于CLI客户端,可以通过-p参数指定并行度
./bin/flink run -p 10 WordCount-java.jar (这里使用-p 10)

1.17.4.4.并行度设置之System Level

在系统级可以通过设置flink-conf.yaml文件中的parallelism.default属性来指定所有执行环境的默认并行度。
在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

涂作权的博客

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值