pre2-flink单机部署与job提交

【README】

本文记录了flink单机部署,以及flink job2种提交方式;


【1】flink 单机部署

step1)下载flink 包;

Apache Flink: Stateful Computations over Data Streamshttps://flink.apache.org/

 step2)解压

tar -zxvf flink-1.14.4-bin-scala_2.12.tgz -C flink-1.14.4

step3)查看flink 默认配置

vim conf/flink-conf.yaml

查看master节点配置

step4)启动单机flink

进入flink home目录

[root@centos201 flink-1.14.4]# ll
total 480
drwxr-xr-x.  2 1000 1001   4096 Feb 25 20:49 bin
drwxr-xr-x.  2 1000 1001    263 Apr  9 22:23 conf
drwxr-xr-x.  7 1000 1001     76 Feb 25 20:49 examples
drwxr-xr-x.  2 1000 1001   4096 Feb 25 20:49 lib
-rw-r--r--.  1 1000 1001  11357 Feb 24 05:06 LICENSE
drwxr-xr-x.  2 1000 1001   4096 Feb 25 20:49 licenses
drwxr-xr-x.  2 1000 1001    243 Apr  9 23:11 log
-rw-r--r--.  1 1000 1001 458501 Feb 25 20:49 NOTICE
drwxr-xr-x.  3 1000 1001   4096 Feb 25 20:49 opt
drwxr-xr-x. 10 1000 1001    210 Feb 25 20:49 plugins
-rw-r--r--.  1 1000 1001   1309 Feb 24 05:06 README.txt
[root@centos201 flink-1.14.4]# pwd
/opt/software/flink-1.14.4/flink-1.14.4

执行   ./bin/start-cluster.sh 启动集群 

进入flink ui界面

查看主页: http://192.168.163.201:8081/#/overview , 因为localhost 机器是 192.168.163.201

至此 flink单机模式启动成功;


【2】提交flink job

把 flink job(带main函数的java类)打包为 jar;

或者通过maven package 打包;

关于flink job的开发方式,可以参考 1-flink理论-批处理与流处理+简单示例_PacosonSWJTU的博客-CSDN博客


【2.1】手动在ui界面提交job

step1)把jar 上传到flink web服务器

 step2)填写参数并提交

 查看控制台输出


 【2.2】命令行提交job

step1)命令提交job

bin/flink run -c com.cmc.wc.SocketTextStreamWordCount -p 1 /opt/software/flink-1.14.4/jobjar/flinkdemo-1.0-SNAPSHOT.jar

命令行提交job后,可以在ui界面查看job 列表

step2)查看job列表 (运行中)

 bin/flink list

step3)取消job

 bin/flink cancel jobid

如 bin/flink cancel 93d772d87a75fd72143cecf2df25f5ef  

step4)查看所有job列表(包括取消的)

bin/flink list -a


 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要使用docker-compose部署Flink,您可以参考以下步骤: 1. 首先,确保您已经安装了Docker和docker-compose。您可以根据引用和引用中提供的链接和指南来安装它们。 2. 创建一个名为docker-compose.yml的文件,并在其中定义Flink集群的配置。您可以参考引用中提供的链接,找到一个示例的docker-compose.yml脚本,然后根据您的需求进行调整。 3. 在docker-compose.yml文件中,您需要定义Flink JobManager和TaskManager的容器以及它们之间的网络连接。您可以指定所需的资源,如CPU和内存等。 4. 在docker-compose.yml文件中,您还可以定义Flink的相关配置,如作业管理器的日志级别、作业的并行度等。 5. 一旦docker-compose.yml文件被定义好,您可以在终端中导航到该文件所在的目录,并运行以下命令来启动Flink集群: ``` docker-compose up -d ``` 6. 等待一段时间,直到Flink集群启动完成。您可以使用以下命令检查集群的状态: ``` docker-compose ps ``` 7. 现在,您可以使用Flink的Web界面或Flink的客户端工具来提交和管理作业。 请注意,这只是一个概述了使用docker-compose部署Flink的步骤。具体的配置和细节可能因您的环境和需求而有所不同。建议您参考引用中的链接和引用及中的文档来获取更详细的信息和指导。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [Docker-compose部署flink](https://blog.csdn.net/weixin_44739349/article/details/104591378)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [docker-flink:使用 Docker-Compose 在 Docker 容器中部署 Apache Flink 集群](https://download.csdn.net/download/weixin_42118011/19691285)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值