Flink on yarn参数配置

本文详细介绍了Flink在YARN上的两种任务提交方式:共享Yarn Session和Per-Job模式。共享模式下,Flink集群常驻YARN,多个作业可复用资源;Per-Job模式则为每个任务创建独立集群,任务执行完成后集群消失,适合生产环境。文中还给出了具体的命令行参数配置示例。
摘要由CSDN通过智能技术生成

在flink on yarn模式中,flink yarn-session的两种提交方式

1.公用一个yarn-session

在yarn中初始化一个flink集群,开辟指定的资源,以后提交任务都向这里提交。这个flink集群会常驻在yarn集群中,除非手工停止。

2.每个job提供一个集群环境
 

 

 

下面以spark-session 案例,简单讲解:

启动运行环境: 

 

 

实际案例:

1)我们启动Yarn:

这个时候web端是没有任务的

2)我们启动一个yarn session(类似预先规定好了资源,然后任务在这里面运行,资源是固定的):

./bin/yarn-session.sh -n 4 -jm 2048 -tm 4096  -s 2  -d 

启动效果:

  • 2
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值