Mapreduce运行异常Container exited with a non-zero exit code 1

用idea编写mapreduce读写hbase,并打包jar放到集群服务器上运行时出现下面错误:

[2019-01-05 04:03:01.278]Container exited with a non-zero exit code 1. Error file: prelaunch.err.
Last 4096 bytes of prelaunch.err :
Last 4096 bytes of stderr :
log4j:WARN No appenders could be found for logger (org.apache.hadoop.mapreduce.v2.app.MRAppMaster).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.


For more detailed output, check the application tracking page: http://slave1:8088/cluster/app/application_1546695649125_0002 Then click on links to logs of each attempt.

解决方案:

先进入:http://slave1:8042/logs/userlogs这个地址,其中slave1为resourcemanager的服务器,然后进入错误信息里提到的jobid的日志。

点开【syslog】,可以看到详细的mapreduce运行过程的日志信息,在当中可以找到下面这个异常信息。

org.apache.hadoop.mapreduce.v2.app.client.MRClientService: Webapps failed to start. Ignoring for now: java.lang.NullPointerException

通过排查发现是新版本的hadoop的yarn中需要配置上正面的内容,于是在yarn-site.xml添加正面内容:


    <property>
        <name>yarn.resourcemanager.webapp.address.rm1</name>
        <value>master</value>
    </property>
    <property>
        <name>yarn.resourcemanager.scheduler.address.rm2</name>
        <value>slave1</value>
    </property>
    <property>
        <name>yarn.resourcemanager.webapp.address.rm2</name>
        <value>slave1</value>
    </property>

保存完同时覆盖集群其他节点上的这个文件,最后重启yarn再启动mapreduce应用,成功运行。

  • 13
    点赞
  • 52
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值