编译Hadoop源码包解决container-executor.cfg文件及其各级父路径问题

一、编译hadoop2.7.6背景

ZOOKEEPER、HDFS、YARN、HBASE配置Kerberos认证博客中,关于YARN配置Kerberos认证时,产生了hadoop-2.7.6/etc/hadoop must be owned by root,but is owned by 1000错误


2019-02-28 14:43:21,600 INFO org.apache.hadoop.service.AbstractService: Service NodeManager failed in state INITED; cause: org.apache.hadoop.yarn.exceptions.YarnRuntimeException: Failed to initialize container executor
org.apache.hadoop.yarn.exceptions.YarnRuntimeException: Failed to initialize container executor
	at org.apache.hadoop.yarn.server.nodemanager.NodeManager.serviceInit(NodeManager.java:218)
	at org.apache.hadoop.service.AbstractService.init(AbstractService.java:163)
	at org.apache.hadoop.yarn.server.nodemanager.NodeManager.initAndStartNodeManager(NodeManager.java:495)
	at org.apache.hadoop.yarn.server.nodemanager.NodeManager.main(NodeManager.java:543)
org.apache.hadoop.yarn.server.nodemanager.NodeManager.serviceInit(NodeManager.java:216)
Caused by: ExitCodeException exitCode=24: File /home/hadoop/core/hadoop-2.7.6/etc/hadoop/container-executor.cfg must be owned by root, but is owned by 1000
	at org.apache.hadoop.util.Shell.runCommand(Shell.java:585)
	at org.apache.hadoop.util.Shell.run(Shell.java:482)
	at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:776)
	at org.apache.hadoop.yarn.server.nodemanager.LinuxContainerExecutor.init(LinuxContainerExecutor.java:185)

其原因是在check_configuration_permissions方法中,对于配置文件container-executor.cfg路径目录路径,在一个do循环内循环调用is_only_root_writable方法判断配置文件container-executor.cfg路径及所有者必须是root用户,否则不予启动容器,说明白点就是源码中规定container-executor.cfg配置文件的目录及多层父级的owner所有者必须是root用户,而container-executor.cfg文件的路径又在$HADOOP_HOME/bin/container-executor文件中写死了,所以要么改变container-executor.cfg配置文件的所有目录的所有者为root,要么重新编译container-executor指定一个路径,前提是该路径目录及多级目录owner必须是root。
  解决方案一:                                         
       执行该脚本的compile_all函数重新编译hadoop,将编译完成的hadoop-2.7.6.tar.gz包替换原来的hadoop包,将container-executor.cfg路径dir设置为一个目录所有者都是root用户组的路径,例如使用root用户新建/etc/hadoop目录并将container-executor.cfg放在该路径下,将$HADOOP_HOME/bin/container-executor修改用户组为root:hadoop,并将权限chmod赋予6050,重新启动nodemanager成功,该方案比较麻烦,推荐使用方案二!       
  解决方案二:                           
       执行该脚本的compile_container_executor函数,cd targe/usr/local/bin/即可获得重新编译container-executor文件,将container-executor.cfg路径dir设置为一个目录所有者都是root用户组的路径,例如使用root用户新建/etc/hadoop目录并将container-executor.cfg放在该路径下,将$HADOOP_HOME/bin/container-executor修改用户组为root:hadoop,并将权限chmod赋予6050,重新启动nodemanager成功,该方案比较简单,推荐使用此方案!

二、编译hadoop2.7.6

首先在编译hadoop-2.7.6-src.tar.gz源码包之前,肯定先需要下载对应的源码包,下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.7.6/,然后我们使用linux系统进行hadoop编译,为了不产生权限等一系列问题,所以使用root管理员用户进行编译的所有操作。将下载好的源码包进行解压到/root目录下,我们首先需要了解对应不同版本关于编译hadoop源码的要求,进入hadoop对应版本的源码包解压后的hadoop-2.7.6-sr

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值