Flink -- 并行度

1、并行度:

       对于一个Flink任务是有Source、Transformation和Sink等任务组成,一个任务由多个并行实例来执行,一个任务的并行实例数目被称为该任务的并行度。

  2、TaskManager和Solt

Flink是一个分布式流处理框架,它基于TaskManager和Slot来实现任务的执行。TaskManager是Flink中负责运行任务的工作进程,而Slot是TaskManager中可用的资源。

TaskManager在Flink集群中分布式运行,每个TaskManager可以运行多个Slot。Slot是TaskManager中的资源分配单位,每个Slot可以运行一个Flink任务。TaskManager会根据需要动态分配Slot,以满足任务执行的需求。 

3、共享资源槽:

       1、 对于一个Task solt负责执行一个task这种部署方式来说,产生的问题是资源的浪费,此时Flink就有就共享资源槽。

        2、共享资源槽:Flink并不是将task合并,而是上游的task和下游的task可以共享一个槽位,所以Flink需要使用多少资源和task的数量没有关系,而是和节点的最大并行度有关系,因为有几个并行度就需要几个槽位。

    4、并行度的设置的方式:

        1、env.setParallelism(2),设置并行度为2(Execution Environment Level(执行环境级别))

        2、可以在提交任务的时候指定并行度,通过-p来指定( Client Level(客户端级别))

flink run-application -t yarn-application  -p 2 -c flink.core.Demo1WordCount flink-1.0.jar

       3、可以对每一个算子都单独的设置并行度(Operator Level(算子级别))

        4、System Level 一般不使用

在系统级可以通过设置flink-conf.yaml文件中的parallelism.default属性来指定所有执行环境的默认并行度。
三者的优先级是:3---1---2
flink任务需要的资源和task数量无关,和并行相关,一个并行度需要一个资源(slot)
并行度大小的设置与数据的吞吐量有关

 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
为了配置 Flink 1.12.0 集群,你需要完成以下步骤: 1. 安装 Java:确保所有集群节点上都安装了 Java(支持 Java 8 及以上版本)。 2. 下载 Flink:从 Flink 官方网站(https://flink.apache.org/downloads.html)下载 1.12.0 版本的二进制文件。 3. 解压文件:将下载的二进制文件解压到一个目录中,例如 `/opt/flink-1.12.0`。 4. 配置环境变量:在每个集群节点上设置以下环境变量(可以在 `~/.bashrc` 或 `~/.bash_profile` 中添加): ```shell export FLINK_HOME=/opt/flink-1.12.0 export PATH=$PATH:$FLINK_HOME/bin ``` 5. 配置 Flink 集群:编辑 `$FLINK_HOME/conf/flink-conf.yaml` 文件,根据你的需求配置以下参数: - `jobmanager.rpc.address`: JobManager 的主机名或 IP 地址。 - `taskmanager.numberOfTaskSlots`: 每个 TaskManager 可用的任务插槽数量。 - `parallelism.default`: 默认的并行度设置。 还可以根据需要调整其他配置参数,如内存大小、状态后端等。 6. 启动集群:在 JobManager 节点上执行以下命令启动 Flink 集群: ```shell start-cluster.sh ``` 7. 验证集群:打开浏览器,访问 JobManager 的 Web UI(默认端口为 8081),确认集群已成功启动。 8. 提交作业:使用 Flink 提供的命令行工具或编写 Flink 作业代码,并将作业提交到 Flink 集群上运行。 请注意,上述步骤是基本配置,具体的集群配置可能因你的环境需求而有所不同。你可以参考 Flink 官方文档(https://ci.apache.org/projects/flink/flink-docs-release-1.12/)获取更详细的配置和使用说明。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值