FLink集群搭建并提交一个简单的任务

本文详细介绍了如何搭建Apache Flink的独立集群,包括配置环境变量、修改配置文件、集群同步、启动与关闭步骤,以及通过网页和命令行方式提交Flink任务的方法。此外,还提供了访问Flink Web UI的地址和查看任务状态的说明。
摘要由CSDN通过智能技术生成

FLink集群搭建

独立集群

独立集群不需要依赖任何框架,独立运行

1、上传解压配置环境变量

tar -xvf flink-1.15.0-bin-scala_2.12.tgz 

vim /etc/profile

2、修改配置文件

vim conf/flink-conf.yaml

jobmanager.rpc.address: master
jobmanager.bind-host: 0.0.0.0
taskmanager.bind-host: 0.0.0.0
rest.bind-address: 0.0.0.0
taskmanager.numberOfTaskSlots: 2

vim conf/masters

master:8081

vim workers

分布式写node1,node2

node1
node2

3、将flink文件同步到另外两个节点中

scp -r flink-1.15.0/ node1:`pwd`
scp -r flink-1.15.0/ node2:`pwd`

4、需要修改node1和node2中的配置文件

vim flink-conf.yaml

node1节点改成node1,node2的节点改成node2

taskmanager.host: node1/node2

5、启动flink的独立集群

在master中启动集群

start-cluster.sh

关闭
stop-cluster.sh

6、访问flink的页面

http://master:8081

1、将项目打包在网页上提交

提交

查看任务状态

执行结果

2、将jar包上传到集群使用flink命令提交

flink run -c com.wt.flink.core.Demo2Submit flink-1.0-SNAPSHOT.jar

输入:

输出:

要在三台 Linux 服务器上搭建 Flink 集群,可以按照以下步骤进行: 1. 准备环境:需要三台 Linux 服务器,每台服务器最好配置相同的硬件和软件环境。安装 Java 运行环境,并确保三台服务器之间可以互相通信。 2. 下载和解压 Flink:从 Flink 官网下载最新的 Flink 版本,并解压到一个目录,例如 /opt/flink。 3. 配置 Flink:修改 Flink 的配置文件 flink-conf.yaml,根据实际情况配置参数,包括 JobManager 和 TaskManager 的内存大小、并行度、网络端口等。需要修改以下参数: ```yaml jobmanager.rpc.address: <JobManager 的 IP 地址> taskmanager.numberOfTaskSlots: <每个 TaskManager 的任务槽数量> ``` 4. 启动 JobManager:在其中一台服务器上启动 JobManager。进入 Flink 的 bin 目录,执行命令 `./start-cluster.sh`,启动 JobManager。 5. 启动 TaskManager:在另外两台服务器上分别启动 TaskManager。进入 Flink 的 bin 目录,执行命令 `./taskmanager.sh start`,启动 TaskManager。 6. 提交任务:使用 Flink 提供的命令行工具 flink run 提交任务,例如 `flink run -c com.example.MyJob /path/to/my-job.jar`。 7. 监控和管理:可以使用 Flink 的 Web 接口或者命令行工具 flink list、flink cancel 等进行任务的监控和管理。 以上是一个简单Flink 集群搭建的步骤。在实际部署中需要考虑更多的因素,例如高可用性、容错性、安全性等。建议参考 Flink 官方文档进行更详细的配置和部署。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值