易懂安装Flink(Flink on Yarn模式)使用Flink(提交作业),会话模式+单作业模式+应用模式(三台)

目录

Flink on Yarn模式:一般企业使用,资源管理交由Yarn来管理

一、使用Flink的前期准备

1.关闭yarn的内存检查

2.配置环境变量

二、使用Flink

1.会话模式

1)启动hadoop集群

2)启动Flink集群:

3)关闭某个Flink集群,kill之后内存会马上释放出来

2.单作业模式

3.应用模式


Flink on Yarn模式:一般企业使用,资源管理交由Yarn来管理

1.会话模式:先在yarn集群上启动Flink集群,后再向Flink集群中提交作业,Flink集群会一直存在,除非用户手动的去关闭Flink集群(同时提交多个任务)

2.单作业模式:Flink不需要提前启动,而是在向Flink提交作业时会自动启动一个Flink集群,一旦作业执行完毕,集群也随之消失

3.应用模式:跟单作业模式类似,也是不需要提前启动Flink集群,而是在向Flink集群提交作业时会自动启动一个Flink集群,一旦作业执行完毕,集群也随之消失

一、使用Flink的前期准备

搭建好hadoop推荐文章

1.在hadoop的yarn-site.xml配置文件关闭yarn的内存检查

将修改后的yarn-site.xml文件分发到slave2和slave3

 2.配置环境变量,在环境变量中添加上yarn的配置信息

将修改后的环境变量文件分发到集群的slave2和slave3

分别在每台服务器(slave1slave2slave3)中刷新一下环境变量,让配置的环境变量生效

下载并上传至linux系统

可以去官网下载

Flink下载网盘链接

提取码: 8ifw

解压并重命名

将hadoop依赖的包拷贝到flink的lib目录下

依赖下载网盘链接

二、使用Flink(即可以向Flink中提交作业)

1.会话模式:

会话模式使用场景:运行执行时间短,规模小的作业

1)启动hadoop集群

2)启动Flink集群:

前台进程启动:

任务槽为0,没有任务所以为0

执行计算单词个数的任务

计算结果可见

后台进程挂起:

 

 

 

做一个简单的单词计算

计算结果(没有全部显示)

 

3)关闭某个Flink集群,kill之后内存会马上释放出来

 

 

2.单作业模式

 一个作业一个集群,任务完成使命终止

-d:后台运行

-t  yarn-per-job单作业模式

 

 

执行任务时也指定一些参数:

3.应用模式

适用场景:适用大规模、执行时间长的作业(资源回收,释放资源)

 

 

 

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值