Hadoop-HA配置

core-site.xml

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/home/muzi/hadoop/data/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://mycluster</value>
    </property>

 <property>
                <name>ha.zookeeper.quorum</name>
                <value>muzid1:2181,muzid2:2181,muzid3:2181</value>
        </property>
</configuration>

hdfs-site.xml

<configuration>
        <property>
                <name>dfs.nameservices</name>
                <value>mycluster</value>
        </property>
        <property>
                <name>dfs.ha.namenodes.mycluster</name>
                <value>nn1,nn2</value>
        </property>
        <property>
                <name>dfs.namenode.rpc-address.mycluster.nn1</name>
                <value>muzid1:9000</value>
        </property>
        <property>
                <name>dfs.namenode.rpc-address.mycluster.nn2</name>
                <value>muzid2:9000</value>
        </property>
        <property>
                <name>dfs.namenode.http-address.mycluster.nn1</name>
                <value>muzid1:50070</value>
        </property>
        <property>
                <name>dfs.namenode.http-address.mycluster.nn2</name>
                <value>muzid2:50070</value>
        </property>
 <property>
                <name>dfs.namenode.shared.edits.dir</name>
                <value>qjournal://muzid1:8485;muzid2:8485;muzid3:8485/mycluster</value>
        </property>
        <property>
                <name>dfs.ha.fencing.methods</name>
                <value>sshfence</value>
        </property>
        <property>
                <name>dfs.ha.fencing.ssh.private-key-files</name>
                <value>/root/.ssh/id_rsa</value>
        </property>
        <property>
                <name>dfs.journalnode.edits.dir</name>
                <value>/usr/local/hadoop/data/jn</value>
        </property>
        <property>
                <name>dfs.client.failover.proxy.provider.mycluster</name>
                     <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
        </property>
        <property>
                <name>dfs.permissions.enable</name>
                <value>false</value>
        </property>

         <property>
                <name>dfs.ha.automatic-failover.enabled</name>
                <value>true</value>
        </property>
</configuration>

 yarn-site.xml

  <property>
                <name>yarn.resourcemanager.ha.enabled</name>
                <value>true</value>
        </property>
        <property>
                <name>yarn.resourcemanager.cluster-id</name>
                <value>mycluster-yarn</value>
        </property>
        <property>
                <name>yarn.resourcemanager.ha.rm-ids</name>
                <value>rm1,rm2</value>
        </property>
        <property>
                <name>yarn.resourcemanager.hostname.rm1</name>
                <value>muzid1</value>
        </property>
        <property>
                <name>yarn.resourcemanager.hostname.rm2</name>
                <value>muzid2</value>
        </property>
        <property>
                <name>yarn.resourcemanager.zk-address</name>
                <value>192.168.64.145:2181,192.168.64.146:2181,192.168.64.147:2181</value>
        </property>
        <property>
                <name>yarn.resourcemanager.recovery.enabled</name>
                <value>true</value>
        </property>
        <property>
                <name>yarn.resourcemanager.store.class</name>
                <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
        </property>
        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>

<property>
                <name>yarn.application.classpath</name>
                <value>根据hadoop信息配置</value>
        </property>
 

#  muzid1上

hadoop-daemon.sh start journalnode

hdfs namenode -format

hadoop-daemon.sh start namenode

#  muzid2上

hdfs namenode -bootstrapStandby

hadoop-daemon.sh start namenode 

#  muzid1上

hadoop-daemons.sh start datanode

hdfs haadmin -transitionToActive nn1

hdfs haadmin -getServiceState nn1 

hdfs zkfc -formatZK

start-dfs.sh

# hadoop-daemon.sh start zkfc

 start-yarn.sh

yarn-daemon.sh start resourcemanager

yarn rmadmin -getServiceState rm1

错误信息

ERROR namenode.NameNode: Failed to start namenode.
java.lang.IllegalArgumentException: URI has an authority component
    at java.io.File.<init>(File.java:423)
    at org.apache.hadoop.hdfs.server.namenode.NNStorage.getStorageDirectory(NNStorage.java:336)
    at org.apache.hadoop.hdfs.server.namenode.FSEditLog.initJournals(FSEditLog.java:286)
    at org.apache.hadoop.hdfs.server.namenode.FSEditLog.initJournalsForWrite(FSEditLog.java:257)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.format(NameNode.java:1190)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1655)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1782)
 

查看 core-site.xml文件中hadoop.tmp.dir值是否配置正确：

  Error: JAVA_HOME is not set and could not be found.

修改hadoop-env.sh