Flink无法在yarn提交任务:取消检查虚拟内存

1 问题描述

无论是会话模式,还是单作业模式,Flink无法运行:
会话模式无法开启会话
单作业模式的job在yarn的web上查看作业是failed的

报错:
The Flink Yarn cluster has failed
org.apache.flink.client.deployment.ClusterDeploymentException: Couldn’t deploy Yarn session cluster

在这里插入图片描述

在这里插入图片描述

2 解决

猜测是hadoop检查虚拟内存不够,因此加了配置不让它检查,然后竟然成功运行了

[dwc@hadoop102 hadoop-2.7.5]$ cd etc/hadoop/
[dwc@hadoop102 hadoop]$ vim yarn-site.xml

<property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>false</value>
</property>
<property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
</property>

3 尝试提交单作业

./bin/flink run -t yarn-per-job -c com.dwc.CDCJob /opt/Environment_DataLake/flink-1.13.3/job/DataToLake-1.0-SNAPSHOT.jar

在这里插入图片描述

yarn的web中可以看到job成功running

4 会话模式

./yarn-session.sh -nm test
![
进入输出的网址可以看到申请的资源

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值