搭建高可用（HA）Hadoop2.x集群

使用zookepeer搭建高可用Hadoop集群，严格按照步骤做！！

准备四台机器：

 192.168.131.111 （hdp-01）
192.168.131.112 （hdp-02）
192.168.131.113 （hdp-03）
192.168.131.114 （hdp-04）

一、集群的规划
Zookeeper集群：
    192.168.157.112 （hdp-01）
    192.168.157.113 （hdp-02）
    192.168.157.114 （hdp-03）
    
Hadoop集群：
    192.168.157.112 （hdp-01）   NameNode1      ResourceManager1     Journalnode
    192.168.157.113 （hdp-02）   NameNode2      ResourceManager2     Journalnode
    192.168.157.114 （hdp-03）   DataNode1      NodeManager1
    192.168.157.115 （hdp-04）   DataNode2      NodeManager2

二、准备工作
1、安装JDK
2、配置环境变量
3、配置免密码登录
4、配置主机名
上述工作在单机版中的Hadoop搭建时早就熟练操作，如果不会参考此篇文章：https://www.linuxidc.com/Linux/2018-02/150706.html    
三、配置Zookeeper（在hdp-01安装）
    在主节点（hdp-01）上配置ZooKeeper
    （*）配置/root/training/zookeeper-3.4.6/conf/zoo.cfg文件
            dataDir=/root/training/zookeeper-3.4.6/tmp

            server.1=hdp-01:2888:3888
            server.2=hdp-02:2888:3888
            server.3=hdp-03:2888:3888

    （*）在/root/training/zookeeper-3.4.6/tmp目录下创建一个myid的空文件
            echo 1 > /root/training/zookeeper-3.4.6/tmp/myid

    （*）将配置好的zookeeper拷贝到其他节点，同时修改各自的myid文件
            scp -r /root/training/zookeeper-3.4.6/ hdp-02:/root/training

            echo 2 > /root/training/zookeeper-3.4.6/tmp/myid
            scp -r /root/training/zookeeper-3.4.6/ hdp-03:/root/training

            echo 3 > /root/training/zookeeper-3.4.6/tmp/myid
    
四、安装Hadoop集群（在hdp-01上安装）
1、修改hadoo-env.sh
    export JAVA_HOME=/root/training/jdk1.8.0

2、修改core-site.xml
        <configuration>
                <!-- 指定hdfs的nameservice为ns1 -->
                <property>
                        <name>fs.defaultFS</name>
                        <value>hdfs://ns1</value>
                </property>

                <!-- 指定hadoop临时目录 -->
                <property>
                        <name>hadoop.tmp.dir</name>
                        <value>/root/training/hadoop-2.8.5/tmp</value>
                </property>

                <!-- 指定zookeeper地址 -->
                <property>
                        <name>ha.zookeeper.quorum</name>
                        <value>hdp-01:2181,hdp-02:2181,hdp-03:2181</value>
                </property>
        </configuration>

3、修改hdfs-site.xml（配置这个nameservice中有几个namenode）
        <configuration> 
            <!--指定hdfs的nameservice为ns1，需要和core-site.xml中的保持一致 -->
            <property>
                <name>dfs.nameservices</name>
                <value>ns1</value>
            </property>

            <!-- ns1下面有两个NameNode，分别是nn1，nn2 -->
            <property>
                <name>dfs.ha.namenodes.ns1</name>
                <value>nn1,nn2</value>
            </property>

            <!-- nn1的RPC通信地址 -->
            <property>
                <name>dfs.namenode.rpc-address.ns1.nn1</name>
                <value>hdp-01:9000</value>
            </property>
            <!-- nn1的http通信地址 -->
            <property>
                <name>dfs.namenode.http-address.ns1.nn1</name>
                <value>hdp-01:50070</value>
            </property>

            <!-- nn2的RPC通信地址 -->
            <property>
                <name>dfs.namenode.rpc-address.ns1.nn2</name>
                <value>hdp-02:9000</value>
            </property>
            <!-- nn2的http通信地址 -->
            <property>
                <name>dfs.namenode.http-address.ns1.nn2</name>
                <value>hdp-02:50070</value>
            </property>

            <!-- 指定NameNode的日志在JournalNode上的存放位置 -->
            <property>
                <name>dfs.namenode.shared.edits.dir</name>
                <value>qjournal://hdp-01:8485;hdp-02:8485;/ns1</value>
            </property>
            <!-- 指定JournalNode在本地磁盘存放数据的位置 -->
            <property>
                <name>dfs.journalnode.edits.dir</name>
                <value>/root/training/hadoop-2.8.5/journal</value>
            </property>

            <!-- 开启NameNode失败自动切换 -->
            <property>
                <name>dfs.ha.automatic-failover.enabled</name>
                <value>true</value>
            </property>

            <!-- 配置失败自动切换实现方式 -->
            <property>
                <name>dfs.client.failover.proxy.provider.ns1</name>
                <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
            </property>

            <!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行-->
            <property>
                <name>dfs.ha.fencing.methods</name>
                <value>
                    sshfence
                    shell(/bin/true)
                </value>
            </property>

            <!-- 使用sshfence隔离机制时需要ssh免登陆 -->
            <property>
                <name>dfs.ha.fencing.ssh.private-key-files</name>
                <value>/root/.ssh/id_rsa</value>
            </property>

            <!-- 配置sshfence隔离机制超时时间 -->
            <property>
                <name>dfs.ha.fencing.ssh.connect-timeout</name>
                <value>30000</value>
            </property>
        </configuration>

4、修改mapred-site.xml
    <configuration>
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
    </configuration>

5、修改yarn-site.xml
    <configuration>
        <!-- 开启RM高可靠 -->
        <property>
           <name>yarn.resourcemanager.ha.enabled</name>
           <value>true</value>
        </property>

        <!-- 指定RM的cluster id -->
        <property>
           <name>yarn.resourcemanager.cluster-id</name>
           <value>yrc</value>
        </property>

        <!-- 指定RM的名字 -->
        <property>
           <name>yarn.resourcemanager.ha.rm-ids</name>
           <value>rm1,rm2</value>
        </property>

        <!-- 分别指定RM的地址 -->
        <property>
           <name>yarn.resourcemanager.hostname.rm1</name>
           <value>hdp-01</value>
        </property>
        <property>
           <name>yarn.resourcemanager.hostname.rm2</name>
           <value>hdp-02</value>
        </property>

        <!-- 指定zk集群地址 -->
        <property>
           <name>yarn.resourcemanager.zk-address</name>
           <value>hdp-01:2181,hdp-02:2181,hdp-03:2181</value>
        </property>

        <property>
           <name>yarn.nodemanager.aux-services</name>
           <value>mapreduce_shuffle</value>
        </property>
    </configuration>

6、修改slaves
    hdp-03
    hdp-04

7、将配置好的hadoop拷贝到其他节点
    scp -r /root/training/hadoop-2.8.5/ root@hdp-02:/root/training/
    scp -r /root/training/hadoop-2.8.5/ root@hdp-03:/root/training/
    scp -r /root/training/hadoop-2.8.5/ root@hdp-04:/root/training/
    
五、启动Zookeeper集群

六、在hdp-01和hdp-02上启动journalnode
    hadoop-daemon.sh start journalnode

七、格式化HDFS（在hdp-01上执行）
1. hdfs namenode -format
2. 将/root/training/hadoop-2.8.5/tmp拷贝到hdp-02的/root/training/hadoop-2.8.5/tmp下
    scp -r dfs/ root@hdp-02:/root/training/hadoop-2.8.5/tmp

3. 格式化zookeeper
   hdfs zkfc -formatZK
   日志：17/07/13 00:34:33 INFO ha.ActiveStandbyElector: Successfully created /hadoop-ha/ns1 in ZK.
  
   
八、在hdp-01上启动Hadoop集群
    start-all.sh

    日志：
        Starting namenodes on [hdp-01 hdp-02]
        hdp-01: starting namenode, logging to /root/training/hadoop-2.4.1/logs/hadoop-root-namenode-hadoop113.out
        hdp-02: starting namenode, logging to /root/training/hadoop-2.4.1/logs/hadoop-root-namenode-hadoop112.out
        hdp-03: starting datanode, logging to /root/training/hadoop-2.4.1/logs/hadoop-root-datanode-hadoop115.out
        hdp-04: starting datanode, logging to /root/training/hadoop-2.4.1/logs/hadoop-root-datanode-hadoop114.out

        hdp-02: starting zkfc, logging to /root/training/hadoop-2.8.5/logs/hadoop-root-zkfc-hdp-02.out
        hdp-01: starting zkfc, logging to /root/training/hadoop-2.8.5/logs/hadoop-root-zkfc-hdp-01.out

        
    hdp-02上的ResourceManager需要单独启动
    命令：yarn-daemon.sh start resourcemanager
    
    hadoop-daemon.sh start namenode启动单个namenode节点的命令