HA-Hadoop 高可用原理及搭建,什么是故障迁移理论，模拟

最新推荐文章于 2022-01-29 16:00:30 发布
最新推荐文章于 2022-01-29 16:00:30 发布
阅读量225 收藏
点赞数
分类专栏： 从零开始学大数据—HA 文章标签： 分布式 hadoop 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yidianyidei/article/details/107856106
版权

文章目录

一 HDFS HA高可用

1 HA概述

对NameNode 实现HA

1）所谓HA（High Available），即高可用（7*24小时不中断服务）。

2）实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。

3）Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。

4）NameNode主要在以下两个方面影响HDFS集群

​ NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启

​ NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用

HDFS HA功能通过配置Active/Standby两个NameNodes实现在集群中对NameNode的热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将NameNode很快的切换到另外一台机器。

2 HDFS-HA工作机制

通过双NameNode消除单点故障

2.1 HDFS-HA工作要点

\1. 元数据管理方式需要改变

内存中各自保存一份元数据；

Edits日志只有Active状态的NameNode节点可以做写操作；

两个NameNode都可以读取Edits；

共享的Edits放在一个共享存储中管理（qjournal和NFS两个主流实现）；

\2. 需要一个状态管理功能模块

实现了一个zkfailover，常驻在每一个namenode所在的节点，每一个zkfailover负责监控自己所在NameNode节点，利用zk进行状态标识，当需要进行状态切换时，由zkfailover来负责切换，切换时需要防止brain split现象的发生。

\3. 必须保证两个NameNode之间能够ssh无密码登录

\4. 隔离（Fence），即同一时刻仅仅有一个NameNode对外提供服务

2.2 HDFS-HA自动故障转移工作机制

与Zookeeper 高可用非常相似

半数以上存活可继续提供服务

所有节点数据都是一致性（遵循paxos 原则）

容错性: n-1/2

前面学习了使用命令hdfs haadmin -failover手动进行故障转移，在该模式下，即使现役NameNode已经失效，系统也不会自动从现役NameNode转移到待机NameNode，下面学习如何配置部署HA自动进行故障转移。自动故障转移为HDFS部署增加了两个新组件：ZooKeeper和ZKFailoverController（ZKFC）进程，如图3-20所示。ZooKeeper是维护少量协调数据，通知客户端这些数据的改变和监视客户端故障的高可用服务。HA的自动故障转移依赖于ZooKeeper的以下功能：

1**）故障检测：**集群中的每个NameNode在ZooKeeper中维护了一个持久会话，如果机器崩溃，ZooKeeper中的会话将终止，ZooKeeper通知另一个NameNode需要触发故障转移。

2**）现役NameNode****选择：**ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃，另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。

ZKFC是自动故障转移中的另一个新组件，是ZooKeeper的客户端，也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程，ZKFC负责：

1**）健康监测：**ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode，只要该NameNode及时地回复健康状态，ZKFC认为该节点是健康的。如果该节点崩溃，冻结或进入不健康状态，健康监测器标识该节点为非健康的。

2**）ZooKeeper****会话管理：**当本地NameNode是健康的，ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态，ZKFC也保持一个特殊的znode锁，该锁使用了ZooKeeper对短暂节点的支持，如果会话终止，锁节点将自动删除。

**3）基于ZooKeeper的选择：**如果本地是健康的，且发现没有其它的节点当前持有锁，它将为自己获取该锁。如果成功，则它已经赢得了选择，并负责运行故障转移进程以使它的本地为。故障转移进程与前面描述的手动故障转移相似，首先如果必要保护之前的现役，然后本地转换为状态

在这里插入图片描述

HA 重要注意

这里active 和 standby 需要手动设置

假如出现两台active（脑裂）sb-sprite brain ，那么文件GG（一个文件 假如3个块 2个在ANN 另一个在B NN）而且集群还不报错，写入数据不可靠

所以我们设置HA 全力防止脑裂

zookeeper+HA

在这里插入图片描述

鲁棒型===代码健壮性

zkfc 作用 负责跟zookeeper 沟通

为何zkfc 不跟namenode 写在一起,按理说有NN 就要有zkfc 为何分开写 ，为了不破坏 NN 鲁棒型

一开始NN 都是stadnby ,zkfc到zookeeper看 有没有临时节点（active），如果没有 他会自己创建一个临时节点 然后对应NN 就变成active (比谁快)

实现故障转移

在这里插入图片描述

3-通知另一台NN 是通过zookeeper 在zookeeper 杀死自己的临时节点 —zookeeper 会通知 另一台 zkfc 上位变成active

进行中进程

在这里插入图片描述

3 HA 搭建过程

module 下 创建 ha

cp -r hadoop。。。 ha

配置hadoop-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

配置core-site.xml
<configuration>


<!-- 把两个NameNode）的地址组装成一个集群mycluster -->
                <property>
                        <name>fs.defaultFS</name>
                        <value>hdfs://mycluster</value>
                </property>

                <!-- 指定hadoop运行时产生文件的存储目录 -->
                <property>
                        <name>hadoop.tmp.dir</name>
                        <value>/opt/module/ha/hadoop-2.7.2/data/tmp</value>
                </property>

</configuration>
配置hdfs-site.xml
<configuration>
	<!-- 完全分布式集群名称 -->
	<property>
		<name>dfs.nameservices</name>
		<value>mycluster</value>
	</property>

	<!-- 集群中NameNode节点都有哪些 -->
	<property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
	</property>

	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>hadoop102:9000</value>
	</property>

	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>hadoop103:9000</value>
	</property>

	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>hadoop102:50070</value>
	</property>

	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>hadoop103:50070</value>
	</property>

	<!-- 指定NameNode元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
	<value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/mycluster</value>
	</property>

	<!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->    //远程把另外机器杀死 防止脑裂措施
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence</value>
	</property>

	<!-- 使用隔离机制时需要ssh无秘钥登录-->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value/root/.ssh/id_rsa</value>
	</property>

	<!-- 声明journalnode服务器存储目录-->
	<property>
                <name>dfs.journalnode.edits.dir</name>
                <value>/opt/module/ha/hadoop-2.7.2/data/jn</value>
        </property>

        <!-- 关闭权限检查-->
        <property>
                <name>dfs.permissions.enable</name>
                <value>false</value>
        </property>

        <!-- 访问代理类：client，mycluster，active配置失败自动切换实现方式-->
        <property>
                <name>dfs.client.failover.proxy.provider.mycluster</name>
                <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
        </property>



</configuration>

</configuration>

拷贝配置好的hadoop环境到其他节点,并分发 ha 到其它服务器上

1） 启动HDFS-HA集群

\1. 在各个JournalNode节点上，输入以下命令启动journalnode服务

sbin/hadoop-daemons.sh start journalnode

看看status 状态是否为0 如果是0 则表示成功

\2. 在[nn1]上，(必须启动JN 后才能格式化)对其进行格式化，并启动

bin/hdfs namenode -format

看看status 状态是否为0 如果是0 则表示成功

sbin/hadoop-daemon.sh start namenode

\3. 在[nn2]上，同步nn1的元数据信息

bin/hdfs namenode -bootstrapStandby
如果报错可以参考这篇文档

\4. 启动[nn2]

sbin/hadoop-daemon.sh start namenode

在这里插入图片描述

\5.在[nn1]上，启动所有datanode

sbin/hadoop-daemons.sh start datanode

在这里插入图片描述

\6. 将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1

\7. 查看是否Active

bin/hdfs haadmin -getServiceState nn1

在这里插入图片描述

2）配置HDFS-HA自动故障转移

\1. 具体配置

​ （1）在hdfs-site.xml中增加

<property>

 <name>dfs.ha.automatic-failover.enabled</name>

 <value>true</value>

</property>

​ （2）在core-site.xml文件中增加

<property>

 <name>ha.zookeeper.quorum</name>

 <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>

</property>
同步其它集群配置
\2. 启动

​ （1）关闭所有HDFS服务：

sbin/stop-dfs.sh

​ （2）启动Zookeeper集群：

bin/zkServer.sh start

​ （3）初始化HA在Zookeeper中状态： ----在zookeeper 中添加父节点

[root@hadoop102 hadoop-2.7.2]# bin/hdfs zkfc -formatZK

​ （4）启动HDFS服务：

sbin/start-dfs.sh

在这里插入图片描述

\3. 验证NAMENODE

​ （1）将Active NameNode进程kill

kill -9 namenode的进程id

​

cat …log | less

在这里插入图片描述

\4. 验证ZKFC

杀掉zkfc 做验证从active 变standy ，另一方从standy 变active 原理

在这里插入图片描述

\5. 验证网络

将Active NameNode机器断开网络

service network stop

3）YARN-HA配置

YARN-HA工作机制
\1. 官方文档：

http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html

\2. YARN-HA工作机制，如图3-23所示

在这里插入图片描述

配置YARN-HA集群
（1）yarn-site.xml
<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!--启用resourcemanager ha-->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!--声明两台resourcemanager的地址-->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>

    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
    </property>
 
    <!--指定zookeeper集群的地址--> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!--启用自动恢复--> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!--指定resourcemanager的状态信息存储在zookeeper集群--> 
    <property>
        <name>yarn.resourcemanager.store.class</name>        <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>

</configuration>

（2）同步更新其他节点的配置信息

启动hdfs
（1）在各个JournalNode节点上，输入以下命令启动journalnode服务：

sbin/hadoop-daemon.sh start journalnode

（2）在[nn1]上，对其进行格式化，并启动：(如果已经格式化过不用再格式化了)

bin/hdfs namenode -format

sbin/hadoop-daemon.sh start namenode

（3）在[nn2]上，同步nn1的元数据信息：

bin/hdfs namenode -bootstrapStandby

（4）启动[nn2]：

sbin/hadoop-daemon.sh start namenode

（5）启动所有DataNode

sbin/hadoop-daemons.sh start datanode

（6）将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1

启动zookeeper

sbin/start-dfs.sh

启动YARN

（1）在hadoop102中执行：

sbin/start-yarn.sh ----jpsall 看发现只有 102 才有RM ，103没有启动 这是配置问题 所以103需要单独执行

（2）在hadoop103中执行：

sbin/yarn-daemon.sh start resourcemanager

在这里插入图片描述

（3）查看服务状态，如图3-24所示

bin/yarn rmadmin -getServiceState rm1
在这里插入图片描述

yidianyidei
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
高可用高负载高并发的互联网应用的架构设计
AI架构设计之禅
07-17 870
在当今数字化时代，互联网应用已经成为我们日常生活中不可或缺的一部分。随着用户数量的激增和业务需求的不断扩大，构建高可用、高负载、高并发的互联网应用架构已经成为现代软件工程中的一个重要挑战。本文将深入探讨如何设计和实现一个能够满足这些要求的互联网应用架构，从而为读者提供一个全面的技术指南。高可用性（High Availability）指的是系统能够持续运行并提供服务的能力，即使在面对各种故障和异常情况时也能保持稳定运行。
12）Hadoop之HDFS HA（高可用）
zy
09-25 403
HA概述： 所谓HA（High Available），即高可用（7*24小时服务不中断） 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 NameNode主要在以下两个方面影响HDFS集群： NameNode机器发生意外，如宕机，集群将无法使用，直...
hadoop ha的实现方式原理介绍
一亩三分地
02-01 3110
在hadoop 1.x版本中,是没有ha的实现方式的,它只有可以看做是冷备份的Secondary NameNode来起到冷备份的作用的,当NameNode挂掉的时候,我们需要手工启动Secondary NameNode。 那么为什么Secondary NameNode能够这样做，是因为SNN能够帮助NN做一些检查点的工作，会同步编辑日志和镜像文件，所以可以起到冷备的作用。在1...
HA的自动故障迁移需要这个插件
qq354436218的博客
02-12 205
HDFS的HA不能自动故障迁移的可以执行这个命令： yum -y install psmisc
HA高可用手动故障转移
isea_you's blog
11-28 728
目录 HA相关概念： 同步问题： 脑裂问题： 手动故障转移： 为什么要先启动journalnode？ HA相关概念： 1）所谓HA（high available），即高可用（7*24小时不中断服务）。 2）实现高可用最关键的策略是消除单点故障（single point of failure，SPOF）。 3）单点故障是一个组件发生故障，就会导致整个系统无法运行。 4）HA严格来...
hadoop 集群HA高可用搭建以及问题解决方案
ZeroTeam_麒麟
02-20 1万+
hadoop 集群HA高可用搭建目录大纲1. hadoop HA原理 2. hadoop HA特点 3. Zookeeper 配置 4. 安装Hadoop集群 5. Hadoop HA配置 搭建环境 环境 版本 地址地址 CentOS 6.5 64x 点击下载 hadoop 2.5.1 点击下载 Zookeeper 3.4.5 点击下载 Hadoop
Hadoop-HA模式（详解）
热门推荐
窃格拉瓦
08-21 2万+
一、概述 之前的博客写了搭建hadoop集群环境，今天写一写搭建高可用（HA）环境。Hadoop-HA模式大致分为两个(个人在学习中的理解)： namenode 高可用 yarn 高可用 1、Namenode HA Namenode在HDFS中是一个非常重要的组件，相当于HDFS文件系统的心脏，在显示分布式集群环境中，还是会有可能出现Namenode的崩溃或各种意外。所以，高可用模...
Hadoop HA 原理及HA 高可用集群搭建
m0_46589706的博客
05-31 796
完全分布式参考：Hadoop完全分布式搭建。 目录 一、前期准备 二、HA 概述 三、原理 四、HA 集群搭建 4.1 HA集群搭建规划 4.2 Hadoop HA集群搭建 五、web端访问查询 序： 软件版本： VMware：VMware-15.5.1 Linux：CentOS-7.5-x86_64-DVD-1804.iso JDK:jdk-8u212-linux-x64.tar.gz Hadoop：hadoop-3.1.3.tar.gz Zookeeper:zookeepe
hadoop高可用HA的搭建
wyqwilliam的博客
12-22 153
hadoop高可用HA的搭建： 8485：journal node的默认端口号 思路：搭建zookeeper，在hadoop启动之前zookeeper就已经启动了。 免秘钥：就是让zookeeper能够在各台集群机器之间进行自由的交互。 1、上传解压zookeeper zookeeper在使用的时候， 一种是主从模式 无主模型 在conf下修改文件：cp zoo.cfg 进入zo...
hadoop高可用搭建文档
10-10
在大数据处理领域，Hadoop是不可或缺的核心组件，其高可用性（High Availability, HA）功能是确保服务不中断的关键。本篇文章将详细讲解如何搭建Hadoop的高可用环境，适用于生产环境，即使面对高版本的Hadoop，也...
Hadoop 2.7.3 高可用（HA）集群部署
Han Bert
10-17 2314
本文主要介绍如何部署Hadoop 2.7.3 高可用（HA）集群
大数据学习之路-Hadoop
weixin_43441789的博客
01-29 3831
Hadoop1. 大数据导论1.1 大数据概念1.2 大数据特点1.3 大数据应用场景1.4 大数据部门组织结构2. Hadoop简介与大数据生态2.1 Hadoop的介绍2.2 Hadoop三大发行版本2.3 Hadoop组成2.3.1HDFS架构概述2.3.2 YARN架构概述2.3.3 MapReduce架构概述2.4 大数据技术生态体系3. Hadoop运行环境搭建3.1 模板虚拟机环境准备3.2 克隆虚拟机3.3 安装JDK3.4 安装Hadoop3.5 Hadoop目录结构4. Hadoop运行
Hadoop高可用性与灾备方案探讨
# 1. 引言 ## 1.1 Hadoop简介 Hadoop是一个开源的分布式存储和计算框架，最初是由Apache基金会开发的，旨在解决大规模数据存储和...在Hadoop领域，高可用性和灾备同样至关重要。因为Hadoop集群通常存储着海量的数据，
解锁虚拟服务器,跟大家聊聊HA切换的问题~服务器在存储解锁的问题
weixin_33177758的博客
08-06 276
跟大家聊聊HA切换的问题~服务器在存储解锁的问题最近做了测试ESX4，用openfiler基本上的功能都搞定了，什么在线迁移啊，资源分配啊，都测试成功，就唯独HA的迁移不能成功，经过长时间的实验以及分析，发现就是在迁移的时候出现问题，在看有关资料当中是这么解释HA的，每个ESX4服务器都有一个心跳线，在机器发生故障的时候，服务器检测自己的心跳，如果发现自己心跳测试失败就表示自己已经宕机，会自动断开...
Hadoop HA自动故障转移搭建
qq_43206800的博客
07-27 410
1. 所需知识: Hadoop Zookeeper 2. 目前Hadoop集群存在的问题: 2.1 如果NameNode故障后，应该怎么办? Prior to Hadoop 2.0.0, the NameNode was a single point of failure (SPOF) in an HDFS cluster. Each cluster had a single NameNode, and if that machine or process became unavailable, th
HDFS-HA自动故障转移工作机制
努力努力再努力L
06-09 978
HDFS-HA自动故障转移工作机制 目录 HA概述 HDFS-HA工作要点 HDFS-HA自动故障转移工作机制 1. HA概述 所谓HA（high available），即高可用（7*24小时不中断服务）。 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在...
Hadoop技术之Hadoop HA 机制学习
weixin_34368949的博客
10-19 776
欢迎大家前往腾讯云技术社区，获取更多腾讯海量技术实践干货哦~ 作者：温球良  导语 最近分享过一次关于Hadoop技术主题的演讲，由于接触时间不长，很多技术细节认识不够，也没讲清楚，作为一个技术人员，本着追根溯源的精神，还是有必要吃透，也为自己的工作沉淀一些经验总结。网上关于Hadoop HA的资料多集中于怎么搭建HA，对于HA为什么要这么做描述甚少，所以本文对于HA是如何搭建的暂不介绍，主要...
Hadoop HA 高可用（重点详解）
weixin_48067943的博客
07-29 1212
文章目录四、Hadoop HA 高可用4.1 HA 概述4.2 HDFS-HA 工作机制4.2.1 HDFS-HA 工作要点4.2.2 HDFS-HA 自动故障转移工作机制4.3 HDFS-HA 集群配置4.3.1 环境准备4.3.2 规划集群4.3.3 配置 Zookeeper 集群4.3.4 配置 HDFS-HA 集群4.3.5 启动HDFS-HA集群4.3.6 配置 HDFS-HA 自动故障转移4.4 YARN-HA配置4.4.1 YARN-HA工作机制4.4.2 配置 YARN-HA 集群4.5 H
Hadoop-HA模式的搭建(手把手教，超细)
qq_56893858的博客
11-19 1893
参考的Hadoop官网 具有QJM的NameNode HA_Hadoop 中文网https://hadoop.org.cn/docs/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html从我完全分布式过来的同学，现在已经有了四台搭建了完全分布式的四台虚拟机 如果没有看过，请参照下文搭建！我们接下来的HA(高可用模式)是基于我们完全分布式的补充 (32条消息) hadoop完全分布式搭建（手把手教，超细）_迫壳的博客-CSDN博
"Hadoop高可用HA集群部署及验证详解：规划、部署、验证全解析
通过以上方式验证HA集群的部署和可用性后，可以确保集群能够在故障发生时保持高可用性。此外，定期进行HA集群的健康检查和数据备份也是非常重要的。 总的来说，Hadoop高可用（HA）集群的部署需要仔细规划和配置，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值