HDFS-HA搭建（基于完全分布式）

hadoop HA(高可用)
Quorum Journal Manager:
以共享活动和备用NameNode之间的编辑日志

影响了HDFS集群（导致namenode发生故障）对于计划外事件（例如计算机崩溃），在操作员重新启动NameNode之前，群集将不可用。计划维护事件（如NameNode计算机上的软件或硬件升级）将导致群集停机时间窗口。

注意：必须至少有3个JournalNode守护进程，因为编辑日志修改必须写入大多数JN。这将允许系统容忍单个机器的故障。您也可以运行3个以上的JournalNode，但为了实际增加系统可以容忍的失败次数，您应该运行奇数个JN（即3,5,7等）。请注意，当使用N个JournalNodes运行时，系统最多可以容忍（N-1）/ 2个故障并继续正常运行。

修改配置文件hdfs-site.xml

	<property>
	  <!--逻辑名称-->
	  <name>dfs.nameservices</name>
	  <value>mycluster</value>
	</property>
	
	<property>
	  <!--每个NameNode的唯一标识符-->
	  <name>dfs.ha.namenodes.mycluster</name>
	  <value>nn1,nn2</value>
	</property>
	
	<!--要监听的每个NameNode的完全限定的RPC地址-->
	<property>
	  <name>dfs.namenode.rpc-address.mycluster.nn1</name>
	  <value>master:9000</value>
	</property>
	<property>
	  <name>dfs.namenode.rpc-address.mycluster.nn2</name>
	  <value>slave1:9000</value>
	</property>
	
	<!--要监听的每个NameNode的完全限定HTTP地址-->
	<property>
	  <name>dfs.namenode.http-address.mycluster.nn1</name>
	  <value>master:50070</value>
	</property>
	<property>
	  <name>dfs.namenode.http-address.mycluster.nn2</name>
	  <value>slave1:50070</value>
	</property>
	
	<property>
	  <!--共享存储目录的位置-->
	  <name>dfs.namenode.shared.edits.dir</name>
	  <value>qjournal://master:8485;slave1:8485;slave2:8485/mycluster</value>
	</property>
	
	<property>
	  <!--HDFS客户端用于联系Active NameNode的Java类-->
	  <name>dfs.client.failover.proxy.provider.mycluster</name>
	  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
	
	<property>
	  <!--脚本或Java类的列表，用于在故障转移期间屏蔽 Active NameNode-->
      <name>dfs.ha.fencing.methods</name>
      <value>sshfence</value>
    </property>

    <property>
      <!--SSH私钥文件列表-->
      <name>dfs.ha.fencing.ssh.private-key-files</name>
      <value>/home/michael/.ssh/id_rsa</value>
    </property>

修改配置文件core-site.xml

	<property>
	  <!--Hadoop FS客户端在没有给出时使用的默认路径-->
	  <name>fs.defaultFS</name>
	  <value>hdfs://mycluster</value>
	</property>
	
	<property>
	  
	  <name>dfs.journalnode.edits.dir</name>
	  <value>/home/michael/soft/tmp/journalnode</value>
	</property>

发送到其他机器
scp -r /home/michael/soft/hadoop/etc/hadoop michael@slave1:~/soft/hadoop/etc/
scp -r /home/michael/soft/hadoop/etc/hadoop michael@slave2:~/soft/hadoop/etc/

启动所有机器上的journalnode守护进程
hadoop-daemon.sh start journalnode

启动原来的namenode守护进程
master-------> hadoop-daemon.sh start namenode

在另一个namenode上复制原来的数据过来
slave1-------> hdfs namenode -bootstrapStandby

关闭namenode进程，初始化日志文件
hadoop-daemon.sh stop namenode
hdfs namenode -initializeSharedEdits

正常启动集群
start-dfs.sh

验证集群
把其中一个namenode切换成active(transitionToActive) /standby(transitionToStandby)
hdfs haadmin -transitionToActive nn2

至此，我们就可以进行"手动故障转移"了，接下来介绍如何配置和部署自动故障转移。

自动故障转移为HDFS部署添加了两个新组件：ZooKeeper quorum和ZKFailoverController进程（缩写为ZKFC）

Apache ZooKeeper是一种高可用性服务，用于维护少量协调数据，通知客户端该数据的更改以及监视客户端是否存在故障。自动HDFS故障转移的实现依赖于ZooKeeper来实现以下功能：

故障检测 - 集群中的每个NameNode计算机都在ZooKeeper中维护一个持久会话。如果计算机崩溃，ZooKeeper会话将过期，通知另一个NameNode应该触发故障转移。

Active NameNode选举 - ZooKeeper提供了一种简单的机制，可以将节点专门选为活动节点。如果当前活动的NameNode崩溃，则另一个节点可能在ZooKeeper中采用特殊的独占锁，指示它应该成为下一个活动的。

ZKFailoverController（ZKFC）是一个新组件，它是一个ZooKeeper客户端，它还监视和管理NameNode的状态。运行NameNode的每台机器也运行ZKFC，ZKFC负责：

运行状况监视 - ZKFC定期使用运行状况检查命令对其本地NameNode进行ping操作。只要NameNode及时响应健康状态，ZKFC就认为该节点是健康的。如果节点已崩溃，冻结或以其他方式进入不健康状态，则运行状况监视器会将其标记为运行状况不佳。

ZooKeeper会话管理 - 当本地NameNode运行正常时，ZKFC在ZooKeeper中保持会话打开。如果本地NameNode处于活动状态，它还拥有一个特殊的“锁定”znode。此锁使用ZooKeeper对“短暂”节点的支持; 如果会话过期，将自动删除锁定节点。

基于ZooKeeper的选举 - 如果本地NameNode是健康的，并且ZKFC发现没有其他节点当前持有锁znode，它将自己尝试获取锁。如果成功，那么它“赢得了选举”，并负责运行故障转移以使其本地NameNode处于活动状态。故障转移过程类似于上述手动故障转移：首先，必要时对先前的活动进行隔离，然后本地NameNode转换为活动状态。

下载zookeeper3.4.6
上传到集群

然后解压
tar -zxvf 文件压缩包

创建软连接
ln -s 文件 zookeeper

配置环境变量
vi ~/.bashrc

		ZOOKEEPER_HOME=/home/michael/soft/zookeeper
  		PATH=$ZOOKEEPER_HOME/bin:$PATH
  		export ZOOKEEPER_HOME PATH

source ~/.bashrc

配置zoo.cfg
在zookeeper/conf目录下

cp zoo_sample.cfg zoo.cfg

修改zoo.cfg文件

		tickTime=2000
		dataDir=/home/hyxy/soft/tmp/zookeeper
		clientPort=2181
		initLimit=5
		syncLimit=2
		server.1=master:2888:3888
		server.2=slave1:2888:3888
		server.3=slave2:2888:3888

发送.bashrc和zoo.cfg给另两台机器并创建软连接
每台机器运行一次zkServer.sh start

在/home/michael/soft/tmp/zookeeper下
执行echo “1” >> myid 注意1是配置文件中给的id server.1=master:2888:3888

在hdfs-site.xml文件中，添加：

<property> 
   <!--是否设置群集以进行自动故障转移-->
   <name> dfs.ha.automatic-failover.enabled </name> 
   <value> true </value> 
 </property>

在core-site.xml文件中，添加：

<property> 
   <!--运行ZooKeeper服务的主机端口对-->
   <name> ha.zookeeper.quorum </name> 
   <value>master:2181,slave1:2181,slave2:2181 </value> 
 </property>

发送给另两台机器
在一台namenode所在节点执行如下命令:
hdfs zkfc -formatZK ----这将在ZooKeeper中创建一个znode，其中自动故障转移系统存储其数据。

启动集群：
start-dfs.sh

检测是否搭建成功：查看50070端口，杀死其中活跃的节点，查看备用节点是否转为活跃