Hadoop HA 高可用

最新推荐文章于 2023-09-29 22:34:33 发布
最新推荐文章于 2023-09-29 22:34:33 发布
阅读量206 收藏
点赞数
分类专栏： Hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012321968/article/details/108117981
版权

HA概述

所谓HA（High Available），即高可用（7*24小时不中断服务）。
实现高可用最关键的策略是消除单点故障。
HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。

Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。

NameNode主要在以下两个方面影响HDFS集群
（1）NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启
（2）NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用

HDFS HA功能通过配置Active/Standby两个NameNodes实现在集群中对NameNode的热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将NameNode很快的切换到另外一台机器。

HDFS-HA工作机制

通过双NameNode消除单点故障

HDFS-HA工作要点

  1. 元数据管理方式需要改变
    内存中各自保存一份元数据；
    Edits日志只有Active状态的NameNode节点可以做写操作；
    两个NameNode都可以读取Edits；
    共享的Edits放在一个共享存储中管理（qjournal和NFS两个主流实现）；
  2. 需要一个状态管理功能模块
    实现了一个zkfailover(故障转移)，常驻在每一个namenode所在的节点，每一个zkfailover负责监控自己所在NameNode节点，利用zk进行状态标识，当需要进行状态切换时，由zkfailover来负责切换，切换时需要防止brain split现象的发生。
  3. 必须保证两个NameNode之间能够ssh无密码登录
  4. 隔离（Fence），即同一时刻仅仅有一个NameNode对外提供服务

故障转移机制

在这里插入图片描述

HDFS-HA集群配置

环境准备

  1. 修改IP
  2. 修改主机名及主机名和IP地址的映射
  3. 关闭防火墙
  4. ssh免密登录
  5. 安装JDK，配置环境变量等

集群规划例子
在这里插入图片描述

在集群上配置ZooKeeper
见：https://blog.csdn.net/u012321968/article/details/108064704

配置HDFS-HA集群

  1. 官方地址：http://hadoop.apache.org/
  2. 在opt目录下创建一个ha文件夹
    mkdir ha
  3. 将/opt/app/下的 hadoop-2.7.2拷贝到/opt/ha目录下
    cp -r hadoop-2.7.2/ /opt/ha/
  4. 配置hadoop-env.sh
    export JAVA_HOME=/opt/module/jdk1.8.0_144
  5. 配置core-site.xml
<configuration>
<!-- 把两个NameNode）的地址组装成一个集群mycluster -->
		<property>
			<name>fs.defaultFS</name>
        	<value>hdfs://mycluster</value>
		</property>

		<!-- 指定hadoop运行时产生文件的存储目录 -->
		<property>
			<name>hadoop.tmp.dir</name>
			<value>/opt/ha/hadoop-2.7.2/data/tmp</value>
		</property>
</configuration>
  1. 配置hdfs-site.xml
<configuration>
	<!-- 完全分布式集群名称 -->
	<property>
		<name>dfs.nameservices</name>
		<value>mycluster</value>
	</property>

	<!-- 集群中NameNode节点都有哪些 -->
	<property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
	</property>

	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>hadoop102:9000</value>
	</property>

	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>hadoop103:9000</value>
	</property>

	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>hadoop102:50070</value>
	</property>

	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>hadoop103:50070</value>
	</property>

	<!-- 指定NameNode元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
	<value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/mycluster</value>
	</property>

	<!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence</value>
	</property>

	<!-- 使用隔离机制时需要ssh无秘钥登录-->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/home/atguigu/.ssh/id_rsa</value>
	</property>

	<!-- 声明journalnode服务器存储目录-->
	<property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/opt/ha/hadoop-2.7.2/data/jn</value>
	</property>

	<!-- 关闭权限检查-->
	<property>
		<name>dfs.permissions.enable</name>
		<value>false</value>
	</property>

	<!-- 访问代理类：client，mycluster，active配置失败自动切换实现方式-->
	<property>
  		<name>dfs.client.failover.proxy.provider.mycluster</name>
	<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
</configuration>
  1. 利用分发脚本拷贝配置好的hadoop环境到其他节点

启动HDFS-HA集群

  1. 在各个JournalNode节点上，输入以下命令启动journalnode服务
sbin/hadoop-daemon.sh start journalnode
  1. 在[nn1]上，对其进行格式化，并启动
bin/hdfs namenode -format
	sbin/hadoop-daemon.sh start namenode
  1. 在[nn2]上，同步nn1的元数据信息
bin/hdfs namenode -bootstrapStandby
  1. 启动[nn2]
sbin/hadoop-daemon.sh start namenode

  1. 查看web页面显示，如图所示
    在这里插入图片描述
    在这里插入图片描述

  2. 在[nn1]上，启动所有datanode

sbin/hadoop-daemons.sh start datanode
  1. 将[nn1]切换为Active
bin/hdfs haadmin -transitionToActive nn1
  1. 查看是否Active
bin/hdfs haadmin -getServiceState nn1

配置HDFS-HA自动故障转移

  1. 具体配置
    （1）在hdfs-site.xml中增加
<property>
	<name>dfs.ha.automatic-failover.enabled</name>
	<value>true</value>
</property>

（2）在core-site.xml文件中增加

<property>
	<name>ha.zookeeper.quorum</name>
	<value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
</property>
  1. 启动
    （1）关闭所有HDFS服务：
sbin/stop-dfs.sh

（2）启动Zookeeper集群：

bin/zkServer.sh start

（3）初始化HA在Zookeeper中状态：

bin/hdfs zkfc -formatZK

（4）启动HDFS服务：

sbin/start-dfs.sh

（5）在各个NameNode节点上启动DFSZK Failover Controller，先在哪台机器启动，哪个机器的NameNode就是Active NameNode

sbin/hadoop-daemin.sh start zkfc
  1. 验证
    （1）将Active NameNode进程kill
kill -9 namenode的进程id

（2）将Active NameNode机器断开网络

service network stop

YARN-HA配置

  1. 官方文档：
    http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html
  2. YARN-HA工作机制，如图3-23所示
    在这里插入图片描述
  3. 具体配置
    （1）yarn-site.xml
<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!--启用resourcemanager ha-->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!--声明两台resourcemanager的地址-->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>

    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
    </property>
 
    <!--指定zookeeper集群的地址--> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!--启用自动恢复--> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!--指定resourcemanager的状态信息存储在zookeeper集群--> 
    <property>
        <name>yarn.resourcemanager.store.class</name>     <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>

</configuration>

（2）同步更新其他节点的配置信息

  1. 启动hdfs
    （1）在各个JournalNode节点上，输入以下命令启动journalnode服务：
sbin/hadoop-daemon.sh start journalnode

（2）在[nn1]上，对其进行格式化，并启动：

bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode

（3）在[nn2]上，同步nn1的元数据信息：

bin/hdfs namenode -bootstrapStandby

（4）启动[nn2]：

sbin/hadoop-daemon.sh start namenode

（5）启动所有DataNode

sbin/hadoop-daemons.sh start datanode

（6）将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1
  1. 启动YARN
    （1）在hadoop102中执行：
sbin/start-yarn.sh

（2）在hadoop103中执行：

sbin/yarn-daemon.sh start resourcemanager

（3）查看服务状态，如图所示

bin/yarn rmadmin -getServiceState rm1

在这里插入图片描述

薯条加可乐谢谢
关注
专栏目录
hadoop HA高可用性完全分布式集群安装
11-05
### hadoop HA高可用性完全分布式集群安装 在大数据处理领域，Hadoop作为一个开源软件框架，主要用于分布式存储和处理大规模数据集。为了提高系统的稳定性和可靠性，Hadoop提供了高可用性（High Availability，简称...
大数据：Hadoop集群启动shell命令
Dr.Pandora's Box
08-28 290
集群日常启动shell命令:严格步骤 1.启动zookeeper集群 （itcast04、itcast05、itcast06操作） cd /itcast/zookeeper-3.4.5/bin/ ./zkServer.sh start ./zkServer.sh status # 2.启动journalnode （itcas...
Hadoop基础教程-第9章 HA高可用（9.3 HDFS 高可用运行）（草稿）
与其临渊羡鱼 不如退而结网
07-03 487
第9章 HA高可用 9.3 HDFS 高可用运行 9.3.1 HA节点规划 节点 IP Zookeeper NameNode JournalNode DataNode node1 192.168.80.131 Y Y Y Y node2 192.168.80.132 Y Y Y Y node...
hadoop集群启动问题：journalnode启动失败
咕噜君的博客
04-10 1万+
启动journalnode集群，在（在数据节点中任选一个)节点上执行如下命令： （cd到hadoop安装目录的sbin目录下）（我的数据节点是hadoop04、hadoop05、hadoop06） sh hadoop-daemons.sh start journalnode 然后执行jps命令查看进程发现，只有一个节点的journalnode进程启动成功 解决： 删除slaves文...
Hadoop 高可用集群的启动与关闭命令
qq_43536259的博客
04-05 7847
Hadoop 高可用集群的启动与关闭命令 1. 启动 ZooKeeper 分别在虚拟机Spark01、Spark02和Spark03中执行以下命令，启动每台虚拟机的ZooKeeper服务 zkServer.sh start 2. 启动 JournalNode 分别在虚拟机Spark01、Spark02和Spark03中执行以下命令启动每台虚拟机的JournalNode服务 hadoop-daemon.sh start journalnode 3. 启动 HDFS 在虚拟机Spark01中通过执行一键启
Hadoop 启动和停止相关指令及说明
Hello World
09-19 2038
sbin/start-all.sh 启动所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager sbin/stop-all.sh 停止所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager sbin/start-dfs.sh 启动Hadoop HDFS守护进程NameNode、Secondary
Hadoop HA高可用手把手部署搭建文档
最新发布
08-10
这是我整理出来的Hadoop HA高可用手把手部署搭建文档
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase）
03-30
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase） 一、Hadoop HA高可用集群概述 在大数据处理中，高可用集群是非常重要的，Hadoop HA高可用集群可以提供高可靠性和高可用性，确保数据处理不中断。该集群由...
HadoopHA高可用集群启动脚本
07-07
使用需要修改成自己的路径 用sh ./ha-start启动
大数据----11.高可用的具体详细配置
u014579001的博客
08-19 836
高可用的具体配置 1.可以直接在我么之前的hadoop集群中进行；最好是我们重新搭建一个集群来进行；因为之前的集群还要使用； 1. 克隆服务器 2.通过拷贝我们的 hadoop01； hadoop02；hadoop03； 分布为我们的ha01；ha02；ha03； 3.克隆完毕之后的操作： ​ 1.修改机器的ip地址：我们从150； 160；170；开始； ​ vi /etc/sysconfig/network-scripts/ifcfg-eno16777736 //默认网卡都是这
hadoop启动之“hadoop-daemon.sh”详解
热门推荐
sinoyang的专栏
09-26 2万+
今天看了一下启动文件“hadoop-daemon.sh”，仔细看了一下大概知道它的作用，使用“hadoop-daemon.sh“脚本启动和停止hadoop后台程序。它可以做到在A机器上启动”namenode“，B机器启动”secondarynamenode“ C机器启动”datanode“， ”tasktracker“，具体启动如下 ：  ./hadoop-daemon.sh start nam
Hadoop的启动和停止命令
m0_74579345的博客
09-29 3469
hadoop命令集
Hadoop(25)-高可用集群配置,HDFS-HA和YARN-HA
weixin_30856725的博客
12-16 156
一. HA概述 1. 所谓HA（High Available），即高可用（7*24小时不中断服务）。 2. 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 3. Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 4 . NameNode主要在以下两个方面影响HDFS集群 N...
新手安装hadoop教程和个人遇到的错误及解决办法（错误：./hadoop-daemon.sh start journalnode用不了和WARNING: HADOOP_SECURE_DN_USER）
m0_53802262的博客
09-14 1974
hadoop
Hadoop-HA 高可用集群
Alano1994的博客
03-18 414
Hadoop HA高可用集群 一、HA集群 HDFS HA集群 master\slave YARN HA集群 master\slave HA(High Available), 高可用性群集，是保证业务连续性的有效解决方案，避免了因为单点故障带来的风险，一般有两个或两个以上的节点，且分为活动节点及备用节点。通常把正在执行业务的称为活动节点，而作为活动节点的一个备份的则称为备用节点，各节点之间会传...
hadoop部署（单机、HA、HA+federation）
BDLng的博客
11-28 681
Hadoop目录结构及其意思： 单机部署： 1、tar -zvxf java.......tar.gz 2、tar -zvxf hadoop .... .tar.gz 3、修改hadoop 目录下的etc/hadoop/hadoop-env.sh Java_home配置： export JAVA_HOME = jdk地址 4、修改hadoop 目录下的etc/
伪分布式集群、完全分布式搭建步骤详情
a4736123的博客
11-21 2022
** 伪分布式集群、完全分布式搭建步骤详情 4.1 伪分布式模式介绍 1.特点 - 在一台机器上安装，使用的是分布式思想，即分布式文件系统，非本地文件系统。 - Hdfs涉及到的相关守护进程(namenode,datanode,secondarynamenode)都运行在一台机器上，都是独立的java进程。 2. 用途 比Standalone mode 多了代码调试功能，允许检查内存使用情况，HDFS输入输出，以及其他的守护进程交 互。 4.2 平台软件说明 - 操作系统: win10/win
大数据时代之hadoop(二)：hadoop脚本解析
星空的专栏
10-14 8820
“兵马未动，粮草先行”，要想深入的了解hadoop，我觉得启动或停止hadoop的脚本是必须要先了解的。说到底，hadoop就是一个分布式存储和计算框架，但是这个分布式环境是如何启动，管理的呢，我就带着大家先从脚本入手吧。说实话，hadoop的启动脚本写的真好，里面考虑的地方非常周全（比如说路径中有空格，软连接等）。   hadoop的脚本分布在$HADOOP_HOME下面的bin目录下和conf
配置Hadoop HA高可用集群：yarn-site.xml详解
"配置Hadoop HA高可用集群的yarn-site.xml文件，重点关注master2节点" 在Hadoop集群中，高可用性（HA）是非常关键的特性，它确保了即使在主节点故障时，服务也能继续运行，从而避免数据丢失和业务中断。本配置主要...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值