搭建高可用的hdfs集群

1.安装jdk
下载jdk二进制安装包到linux系统，解压至指定位置，配置环境变量。
然后source /etc/profile。
我这里将所有的安装包放在/opt/software 下，软件安装在/opt/apps/目录下。
2.安装hadoop
下载hadoop二进制安装包，解压，配置环境变量，基本与jdk安装相同。配置hadoop的Javahome路径。

cd $HADOOP_HOME/etc/hadoop
vim hadoop-env.sh

找到export JAVA_HOME=${JAVA_HOME}，将此处改为自己机器jdk安装路径。
3.免密操作

## 生成密匙
ssh-keygen
## 将密匙发送到指定ip
ssh-copy-id 你的ip地址（不知道可以通过ip add命令查看）
## 遇到的提示询问都回车即可
## 完成后，测试免密操作是否成功
ssh ip地址

4.复制虚拟机
一般复制奇数台机器，5/7都可，具体复制步骤可自行百度。
更改ip及机器主机名

## 进入到网卡配置文件
vim /etc/sysconfig/network-scripts/ifcnf-ens33
## 修改ip DNS 这里不在过多描述

## 修改后，重启网卡服务
service network restart
## ping baidu 测试网卡
ping www.baidu.com

## 进入主机名配置文件,修改主机名
vim /etc/hosts

5.安装zookeeper
一般也是选择奇数台机器安装zookeeper，它们会投票选出leader和follower，leader只有一个，其他都是follower。官网下载二进制安装包，解压，配置环境变量，source配置文件。

## 解压
tar -zxvf zookeeper-3.4.5.tar.gz -C /opt/apps/
## 配置环境变量
vi /etc/profile
#文件中加上 
export ZK_HOME=/opt/apps/zookeeper-3.4.5
# PATH后边加上 :$ZK_HOME/bin 其中：为分隔符，类似于windows系统环境变量配置中的；（分号），配置好后记得source环境变量配置文件
## 创建myid文件，每个节点的myid值可以随意（比如1，2，3），但值不能相同（此处针对集群），在zookeeper安装路径下创建zkdata目录
mkdir zkdata
vi zkdata/myid
## 配置zoo.cfg
#进入zookeeper配置路径下
cd conf
#重命名zoo_sample.cfg
mv zoo_sample.cfg zoo.cfg
#配置zoo.cfg
vi zoo.cfg

dataDir=/opt/apps/zookeeper-3.4.5/zkdata
#此处的ha3,ha4,ha5是在/etc/hosts中配置的主机映射名
server.1=ha3:2888:3888
server.2=ha4:2888:3888
server.3=ha5:2888:3888
## 分发至其他机器，分发后记得修改myid
scp -r /opt/apps/zookeeper-3.4.5/ ha4:/opt/apps/
scp -r /opt/apps/zookeeper-3.4.5/ ha5:/opt/apps/
## 启动，手动启动每台zookeeper
./zkServer.sh start
#查看状态
./zkServer.sh status

6.配置hadoop
配置core-site.xml

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://ns</value>
</property>
<!-- 配置edits目录 -->
<property>
  <name>dfs.journalnode.edits.dir</name>
  <value>/opt/apps/hadoop-2.8.1/hdpdata/journal/node/local/data</value>
</property>

<property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/apps/hadoop-2.8.1/hdpdata/</value>
</property>
<!-- 配置zookeeper主机通讯端口 -->
<property>
    <name>ha.zookeeper.quorum</name>
    <value>ha3:2181,ha4:2181,ha5:2181</value>
</property>

配置hdfs-site.xml

 <!-- ha服务名称 -->
 <property>  
 <name>dfs.nameservices</name>  
 <value>ns</value>
 </property>
 <!-- ha服务对应两个namenode的名称 -->
 <property>  
 <name>dfs.ha.namenodes.ns</name>  
 <value>nn1,nn2</value>
 </property>
 <!-- ha服务对应两个namenode的名称和指定ip服务器进行绑定 -->
 <property>  
 <name>dfs.namenode.rpc-address.ns.nn1</name>  
 <value>192.168.49.100:9000</value>
 </property>
 <property>  
 <name>dfs.namenode.rpc-address.ns.nn2</name>  
 <value>192.168.49.101:9000</value>
 </property>
 <!-- ha服务对应两个namenode的名称和指定服务器的webUI端口进行绑定 -->
 <property> 
  <name>dfs.namenode.http-address.mycluster.nn1</name>  
  <value>192.168.49.100:50070</value>
  </property>
  <property>  
  <name>dfs.namenode.http-address.mycluster.nn2</name>  
  <value>192.168.49.101:50070</value>
  </property>
  <!-- ha服务指定namenode上传或下载日志的url -->
  <property>  
  <name>dfs.namenode.shared.edits.dir</name>  

<value>qjournal://192.168.49.102:8485;192.168.49.103:8485;192.168.49.104:8485/ns</value>
</property>
<!-- ha服务自动故障转移的底层的实现类 -->
<property>  
<name>dfs.client.failover.proxy.provider.ns</name>  
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<!-- ha服务的补刀策略 -->
<property>    
<name>dfs.ha.fencing.methods</name>    
<value>        
sshfence        
shell(/bin/true)    
</value>
</property>
<property>    
<name>dfs.ha.fencing.ssh.private-key-files</name>    
<value>/root/.ssh/id_rsa</value>
</property>
<!-- 开启自动故障迁移 --> 
<property>   
<name>dfs.ha.automatic-failover.enabled</name>   
<value>true</value> 
</property>

配置slaves(这里的名字都是在/etc/hosts文件中配置过的ip映射名)

ha3
ha4
ha5

分发hadoop中的配置（在hadoop安装路径下执行）

scp -r etc/ ha2://$HADOOP_HOME/
scp -r etc/ ha3://$HADOOP_HOME/
scp -r etc/ ha4://$HADOOP_HOME/
scp -r etc/ ha5://$HADOOP_HOME/

7.启动
启动zookeeper
ha3/ha4/ha5三个虚拟机下启动。

zkServer.sh start
# 查看zookeeper状态
zkServer.sh status

启动journalnode

hadoop-daemon.sh start journalnode
# 查看进程
jps
# 正确结果
130565 JournalNode
129417 QuorumPeerMain
130639 Jps

格式化namenode，分发给其他虚拟机

hdfs namenode -format
# 分发
scp -r hdpdata/ ha2://$HADOOP_HOME/
scp -r hdpdata/ ha3://$HADOOP_HOME/
scp -r hdpdata/ ha4://$HADOOP_HOME/
scp -r hdpdata/ ha5://$HADOOP_HOME/

格式化zkfc

hdfs zkfc -formatZK

启动hdfs

start-dfs.sh
# 查看启动是否成功
jps
# 正确结果（注意下面主机名是不同的，意味着在不同的主机上）
[root@ha1 hadoop-2.8.1]# jps
33745 Jps
33539 DFSZKFailoverController
33142 NameNode

[root@ha2 hadoop-2.8.1]# jps
12680 DFSZKFailoverController
12776 Jps
12605 NameNode


[root@ha3 sbin]# jps
131026 Jps
130565 JournalNode
129417 QuorumPeerMain
130911 DataNode

[root@ha4 sbin]# jps
13891 JournalNode
14147 DataNode
14261 Jps
13802 QuorumPeerMain

[root@ha5 sbin]# jps
13874 DataNode
13604 QuorumPeerMain
13716 JournalNode
13991 Jps

至此，高可用的hdfs搭建成功。

每天进步一点点，你终会成为大佬！！！！