Hadoop 2.0 HA安装时碰到的问题

安装hadoop2.0 HA碰到的问题
1.zookeeper集群无法从 $HOME/zookeeper/bin下启动，后来从/opt/home/freeware/zookeeper-3.4.5-cdh4.2.1目录下启动成功
 怀疑还是zookeeper的conf文件设置或者zk_ENV.sh里面的设置有问题


2.hadoop从主节点无法format，提示invalid uri
原因：HADOOP_CONF_DIR目录设置有问题，在 $HOME/hadoop/etc/hadoop-env.sh中JAVA_HOME和$HADOOP_CONF_DIR设置有问题，粗心导致


3.HA启动问题：hadoop的namenode1和namenode2单独都可以启动，但是去检查状态或者hdfs dfsadmin -report的时候就会报错，然后两台机器的namenode进程就shutdown
原因：1）namenode1的masters应该只有 namenode1，namenode2的masters也应该只有namenode2
      2）日志从提示jouralnode的目录没有format，重新用 hdfs zkfc -format的时候出错，提示连接超时。需要把jouralnode进程启动之后再做zk format


4.HA的standby namenode启动不了报
java.io.IOException: Cannot start an HA namenode with name dirs that need recovery. Dir: Storage Directory /youpath/dfs/nn state: NOT_FORMATTED
需要把 active namenode的nn文件拷贝到standby namenode上面。


5.在子节点上namenode -bootstrapStandby失败
需要和第四个错误的解决方法一致，把主的nn文件copy过去

http://www.cloudera.com/content/cloudera-content/cloudera-docs/CDH4/latest/CDH4-Release-Notes/cdh4ki_topic_2_2.htm

6.如果datanode上的dfs.datanode.data.dir目录不一致，datanode log报ERROR datanode.DataNode: Exception in BPOfferService for Block pool

比如datanode1有两个目录/data2/hdfsdata/dfs1/dn和/opt/home/hdfsdata/dfs1/dn。那么如果datanode2上只有/opt/home/hdfsdata/dfs1/dn的话，会报错
ERROR datanode.DataNode: Exception in BPOfferService for Block pool BP-1985271245-10.199.95.36-1384008172524 (storage id DS-165629880-10.199.95.32-59010-1384009892403) service to namenode1/10.199.95.30:8020

但是datanode进程不会被kill掉，从hdfs dfsadmin -report中看，这个datanode的可用dfs为0%。
怀疑就是datanode之间的data dir不一致造成，目前都设为一致就不会报上面的错误了。

整理的hadoop HA启动步骤
1）在NameNode的一个节点上执行初始化到ZK的HA状态信息的命令
        hdfs zkfc -formatZK
2）安装和启动JournalNode
        hdfs jouralnode
3）格式化并启动主NameNode
        hdfs namenode -format
        hdfs namenode start
4）启动备份namenode
        hdfs namenode -bootstrapStandby
        hdfs namenode start

5）配置自动故障转移：在NameNode节点上安装和运行ZKFC
        hdfs zkfc

6）各个datanode启动
        hdfs datanode start

7）MRv1的配置
        a) ./hadoop mrzkfc –formatZK --在zookeeper节点上建立znode
        b) 在每台jobtracker节点上执行以下命令

                ./hadoop jobtrackerha
                ./hadoop mrzkfc
        c)在datanode上执行
                ./hadoop tasktracker