HDFS(1)(1.2)——集群安装(HA)

概述

1. 所谓 HA （ High Available ），即高可用（ 7*24小时不中断服务）,本文中我们做 HDFS的HA和YARN的HA

2. 实现高可用最关键的策略是消除单点故障。 Hadoop-HA 严格来说应该分成各个组件的HA机制：HDFS的 HA 和 YARN 的HA

3. NameNode 主要在以下两个方面影响 HDFS 集群

• NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启
• NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用

 

HDFS-HA工作要点

• 1. 元数据管理方式需要改变

   内存中各自保存一份元数据；

   Edits日志只有 Active 状态的 NameNode 节点可以做写操作；

   两个 NameNode 都可以读取 Edits ；

   共享的 Edits 放在一个共享存储中管理（ qjournal 和 NFS 两个主流实现）；

• 2. 需要一个状态管理功能模块

    实现了一个 zkfailover ，常驻在每一个 namenode 所在的节点，每一个 zkfailover 负责监控自己所在 NameNode节点，利用 zk 进行状态标识，当需要进行状态切换时，由 zkfailover 来负责切换，切换时需要防止brain split 现象的发        生（集群中出现两个 Active 的 Namenode ）。

• 3. 必须保证两个NameNode之间能够ssh无密码登录
• 4. 隔离（Fence）

    即同一时刻仅仅有一个 NameNode 对外提供服务

 HDFS-HA工作机制

配置部署 HDFS-HA 进行自动故障转移。

自动故障转移为 HDFS 部署增加了两个新组件：

• ZooKeeper
•  ZKFailoverController（ZKFC）进程。

ZooKeeper负责 ：

   ZooKeeper是维护少量协调数据，通知客户端这些数据的改变和 监视客户端故障的高可用服务。

• 故障检测

    集群中的每个 NameNode 在 ZooKeeper 中维护了一个临时会话，如果机器崩溃， ZooKeeper 中的 会话将终止，ZooKeeper 通知另一个 NameNode 需要触发故障转移。

• 现役NameNode选择

    ZooKeeper 提供了一个简单的机制用于唯一的选择一个节点为 active 状态。如果目前现役 NameNode崩溃，另一个节点可能从 ZooKeeper 获得特殊的排外锁以表明它应该成为现役 NameNode。

ZKFC负责：

    ZKFC 是自动故障转移中的另一个新组件，是 ZooKeeper 的客户端，也监视和管理 NameNode 的状态。 每个运行NameNode 的主机也运行了一个 ZKFC 进程

• 健康监测

   ZKFC 使用一个健康检查命令定期地 ping 与之在相同主机的 NameNode ，只要该 NameNode 及时地回复健康状态，ZKFC 认为该节点是健康的。如果该节点崩溃，冻结或进入不健康状态，健康监测器标识该节点为非健康的。

• ZooKeeper会话管理

   当本地 NameNode 是健康的， ZKFC 保持一个在 ZooKeeper 中打开的会话。

    如果本地 NameNode 处于active 状态， ZKFC 也保持一个特殊的 znode 锁，该锁使用了 ZooKeeper 对短暂节点的支持，如果会话终止，锁节点将自动删除。

• 基于ZooKeeper的选择

    如果本地 NameNode 是健康的，且 ZKFC 发现没有其它的节点当前持有 znode 锁，它将为自己获取 该锁。如果成功，则它已经赢得了选择，并负责运行故障转移进程以使它的本地NameNode 为Active。

    故障转移进程与前面描述的手动故障转移相似，首先如果必要保护之前的现役 NameNode，然后本地 NameNode 转换为 Active 状态。

安装

1 启动zookeeper集群

在linux126上
cd /root/shells
sh zk.sh start

查看zookeeper状态
sh zk.sh status

2 停止原先HDFS集群

stop-dfs.sh

在所有节点，/opt/servers目录下创建一个ha文件夹

mkdir /opt/servers/ha

cd /opt/servers

cp -rf hadoop-2.9.2 ha

rm -rf /opt/servers/ha/hadoop-2.9.2/data

配置hdfs-site.xml

<property> 
<name>dfs.nameservices</name> <value>lagoucluster</value> 
</property> 
<property> 
<name>dfs.ha.namenodes.lagoucluster</name> <value>nn1,nn2</value> 
</property> 
<property> 
<name>dfs.namenode.rpc-address.lagoucluster.nn1</name> <value>linux126:9000</value> </property> 
<property> <name>dfs.namenode.rpc-address.lagoucluster.nn2</name> <value>linux127:9000</value> 
</property> 
<property> 
<name>dfs.namenode.http-address.lagoucluster.nn1</name> <value>linux126:50070</value> </property> 
<property> 
<name>dfs.namenode.http-address.lagoucluster.nn2</name>
<value>linux126:50070</value> </property> <property> <name>dfs.namenode.shared.edits.dir</name> <value>qjournal://linux126:8485;linux127:8485;linux128:8485/lagou</value> 
</property> 
<property> 
<name>dfs.client.failover.proxy.provider.lagoucluster</name> <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProv ider
</value> 
</property> 
<property> <name>dfs.ha.fencing.methods</name> <value>sshfence</value> 
</property> 
<property> <name>dfs.ha.fencing.ssh.private-key-files</name> <value>/root/.ssh/id_rsa</value> 
</property> 
<property> <name>dfs.journalnode.edits.dir</name> <value>/opt/journalnode</value> </property> 
<property> <name>dfs.ha.automatic-failover.enabled</name> <value>true</value>
</property> 

配置core-site.xml

<property> <name>fs.defaultFS</name> <value>hdfs://lagoucluster</value> </property> 
<property> <name>hadoop.tmp.dir</name> <value>/opt/lagou/servers/ha/hadoop-2.9.2/data/tmp</value> </property> 
<property> <name>ha.zookeeper.quorum</name> <value>linux126:2181,linux127:2181,linux128:2181</value> </property>

拷贝配置好的 hadoop 环境到其他节点

rsync-script /opt/servers/ha/hadoop-2.9.2/

启动

1. 在各个 JournalNode 节点上，输入以下命令启动 journalnode 服务 ( 去往 HA 安装目录，不要使用环 境变量中命令)

/opt/servers/ha/hadoop-2.9.2/sbin/hadoop-daemon.sh start journalnode

在 [nn1] 上，对其进行格式化，并启动

/opt/lagou/servers/ha/hadoop-2.9.2/bin/hdfs namenode -format 
/opt/lagou/servers/ha/hadoop-2.9.2/sbin/hadoop-daemon.sh start namenode

在 [nn2] 上，同步 nn1 的元数据信息

/opt/lagou/servers/ha/hadoop-2.9.2/bin/hdfs namenode -bootstrapStandby

在 [nn1] 上初始化 zkfc

/opt/lagou/servers/ha/hadoop-2.9.2/bin/hdfs zkfc -formatZK

在 [nn1] 上，启动集群

/opt/lagou/servers/ha/hadoop-2.9.2/sbin/start-dfs.sh

验证

• 浏览器

       访问

       linux126:50070

       linux127:50070

• 将Active NameNode进程kill

       kill -9 namenode 的进程 id

再次访问

 linux126:50070

 linux127:50070

注：以上为本人小小总结，如果对您起到了一点点帮助，请给予我一点鼓励，在下方点个小小的赞，谢谢，如有错误之处，望不吝指出，非常感谢！