hadoop 2.0.1配置纪要

折腾了一天一夜。

到运行mr任务时卡住了,一直报错,说找不到hadoop的Congfiguration类。
我尝试把hadoop包也打到运行的jar里面,尝试,有报错找不到其他的类。
反正问题就是,application运行时,找不到相应的jar包。


折腾了整整一晚上,最后搞定,说实话,我都不知道是改了哪里搞定的。

注意一点,系统环境变量/etc/profile,hadoop-env.sh。yarn-env.sh,这三个东西都要加上如下的配置:



export HADOOP_PREFIX=/usr/lib/hadoop-2.0.1-alpha

export JAVA_HOME=/usr/lib/jvm/java-1.6.0-sun-1.6.0.30.x86_64
#export JAVA_HOME=/usr/lib/jvm/jdk1.7.0_06

export HADOOP_LOG_DIR=/var/log/hadoop-log
export YARN_LOG_DIR=/var/log/yarn-log


export PATH=$PATH:$HADOOP_PREFIX/bin
export PATH=$PATH:$HADOOP_PREFIX/sbin
export HADOOP_MAPRED_HOME="${HADOOP_PREFIX}"
export HADOOP_HDFS_HOME="${HADOOP_PREFIX}"
export YARN_HOME="${HADOOP_PREFIX}"
export HADOOP_COMMON_HOME=${HADOOP_PREFIX}
export HADOOP_CONF_DIR="${HADOOP_PREFIX}"/etc/hadoop
export YARN_CONF_DIR=$HADOOP_CONF_DIR



虽然我也觉得,三个地方都要加,很二,很二,但是没办法,就是要加。
其中PATH可能不需要,懒得试了。

然后,貌似每次修改完配置文件都要重启yarn才能生效,是貌似啊,不确定。


另外,jsvc这东西,我用的hadoop-2.0.1与jsvc1.0.5不兼容,退回用1.0.4的jsvc就好了。
jsvc的安装方法是下载那个包,然后解压,然后在该目录下输入ldd jsvc,然后,配好JSVC_HOME=jsvc所在的目录,就行。


datanode的启动,我只在namenode上用root运行start-secure-dns.sh启动成功过。
在各个datanode上执行hadoop-daemon.sh的方法都没有成功启动的,折腾了好久也没有搞定。先凑合用着吧。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值