使用sqoop导入数据发现mr job执行报错如下:
看打印的信息没找到原因,查看web日志
http://rmhost:8042/logs/userlogs/
rmhost替换成自己的rm的host,在该目录下找到applicationID,一直点进去,到syslog下查看日志
看到的第一条报错是这里,但是找了下发现这个路径存在,删除之后重启yarn和dfs也不行,继续翻日志发现报错如下:
看了下应该就是webapp的配置有问题导致的,查看yarn-site.xml配置发现确实没有相关配置,添加相关配置: (其实只添加webapp两个ha的rm就行)
<!-- 测试配置 -->
<property>
<name>yarn.resourcemanager.webapp.address.rm1</name>
<value>rm1host:8088</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address.rm2</name>
<value>rm2</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address.rm2</name>
<value>rm2host:8088</value>
</property>
可参考以下文章:
(4条消息) Mapreduce运行异常Container exited with a non-zero exit code 1_卷心恒远的博客-CSDN博客