HDFS HA 搭建以及配置 ZooKeeper 自动故障转移

最新推荐文章于 2023-03-26 13:14:24 发布
最新推荐文章于 2023-03-26 13:14:24 发布
阅读量735 收藏 1
点赞数
分类专栏： Hadoop Linux 文章标签： hadoop hdfs 大数据 分布式 zookeeper
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43613793/article/details/115218716
版权
Linux 同时被 2 个专栏收录
35 篇文章 0 订阅
订阅专栏
Hadoop
30 篇文章 0 订阅
订阅专栏

文章目录

HDFS HA 搭建

配置之前最好将三个基节点的配置文件与Hadoop数据文件夹备份一下，即备份$HADOOP_HOME/etc/hadoop文件夹与$HADOOP_HOME/tmp文件夹：

cp -r hadoop/ backup-hadoop
cp -r tmp/ backup-tmp

在这里插入图片描述

hdfs-site.xml配置

<configuration>
<property>
<name>dfs.replication</name>
<value>2</value> 
</property>
<!-- mycluster为自定义的值，下方配置要使用该值 -->
<property>
<name>dfs.nameservices</name>
<value>mycluster</value> 
</property>
<!-- 配置两个NameNode的标识符 -->
<property>
<name>dfs.ha.namenodes.mycluster</name>
<value>nn1,nn2</value> 
</property>
<!-- 配置两个NameNode所在节点与访问端口 -->
<property>
<name>dfs.namenode.rpc-address.mycluster.nn1</name>
<value>centos01:8020</value> 
</property>
<property>
<name>dfs.namenode.rpc-address.mycluster.nn2</name>
<value>centos02:8020</value> 
</property>
<!-- 配置两个NameNode的web页面访问地址 -->
<property>
<name>dfs.namenode.http-address.mycluster.nn1</name>
<value>centos01:50070</value> 
</property>
<property>
<name>dfs.namenode.http-address.mycluster.nn2</name>
<value>centos02:50070</value> 
</property>
<!-- 设置一组JournalNode的URI地址 -->
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://centos01:8485;centos02:8485;centos03:8485/mycluster</value> 
</property>
<!-- JournalNode用于存放元数据和状态信息的目录 -->
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/opt/modules/hadoop-2.8.2/tmp/dfs/jn</value> 
</property>
<!-- 客户端与NameNode通信的Java类 -->
<property>
<name>dfs.client.failover.proxy.provider.mycluster</name>
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value> 
</property>
<!-- 解决HA集群脑裂问题 -->
<property>
<name>dfs.ha.fencing.methods</name>
<value>sshfence</value> 
</property>
<!-- 上述属性SSH通信使用的密钥文件 -->
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/home/hadoop/.ssh/id_rsa</value> 
</property>
</configuration>

core-site.xml配置

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://mycluster</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>file:/opt/modules/hadoop-2.8.2/tmp</value>
  </property>
</configuration>

发送到其他集群

scp etc/hadoop/hdfs-site.xml hadoop@centos02:/opt/modules/hadoop-2.8.2/etc/hadoop/
scp etc/hadoop/hdfs-site.xml hadoop@centos03:/opt/modules/hadoop-2.8.2/etc/hadoop/

scp etc/hadoop/core-site.xml hadoop@centos02:/opt/modules/hadoop-2.8.2/etc/hadoop/
scp etc/hadoop/core-site.xml hadoop@centos03:/opt/modules/hadoop-2.8.2/etc/hadoop/

在这里插入图片描述

启动与测试

启动JournalNode进程

删除各个节点$HADOOP_HOME/tmp目录下的所有文件。分别进入各个节点的Hadoop安装目录，执行以下命令，启动三个节点的JournalNode进程：

sbin/hadoop-daemon.sh start journalnode

格式化NameNode

在节点centos01：

bin/hdfs namenode -format

启动NameNode1

在节点centos01：

sbin/hadoop-daemon.sh start namenode

在节点centos02：

bin/hdfs namenode -bootstrapStandby

启动NameNode2

在节点centos02：

sbin/hadoop-daemon.sh start namenode

打开浏览器：http://centos01:50070,http://centos02:50070
在这里插入图片描述
在这里插入图片描述

将NameNode1的状态置为active

在节点centos01：

bin/hdfs haadmin -transitionToActive nn1

在这里插入图片描述

重新启动HDFS

在节点centos01：

sbin/stop-dfs.sh
sbin/start-dfs.sh

再次将NameNode的状态置为active

在节点centos01：

bin/hdfs haadmin -transitionToActive nn1

在各节点执行jps命令

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

ZooKeeper进行HDFS自动故障转移

开启自动故障转移功能

在节点centos01:

修改hdfs-site.xml文件，在文件下方加入以下内容：

<!-- 开启自动故障转移，mycluster为自定义配置的nameservice ID值 -->
<property>
	<name>dfs.ha.automatic-failover.enabled.mycluster</name>
    <value>true</value>
</property>

指定ZooKeeper集群

在节点centos01:

修改core-site.xml文件，在文件下方加入以下内容：

<property>
	<name>ha.zookeeper.quorum</name>
    <value>centos01:2181,centos02:2181,centos03:2181</value>
</property>

同步其他节点

在节点centos01:

scp etc/hadoop/hdfs-site.xml hadoop@centos02:/opt/modules/hadoop-2.8.2/etc/hadoop/
scp etc/hadoop/hdfs-site.xml hadoop@centos03:/opt/modules/hadoop-2.8.2/etc/hadoop/

scp etc/hadoop/core-site.xml hadoop@centos02:/opt/modules/hadoop-2.8.2/etc/hadoop/
scp etc/hadoop/core-site.xml hadoop@centos03:/opt/modules/hadoop-2.8.2/etc/hadoop/

停止HDFS集群

sbin/stop-dfs.sh

启动ZooKeeper集群

在三个节点中分别执行：

bin/zkServer.sh start

初始化在ZooKeeper中的状态

在节点centos01:

bin/hdfs zkfc -formatZK

启动HDFS集群

在节点centos01:

sbin/start-dfs.sh

启动ZKFC守护进程

在节点centos01、centos02:

sbin/hadoop-daemon.sh start zkfc

先启动谁谁就是active（我先启动的centos01）

在这里插入图片描述
在这里插入图片描述

测试HDFS自动故障转移

首先在节点centos01中杀掉NameNode的进程，然后执行hdfs命令。若能成功，说明自动故障转移成功

在这里插入图片描述

此时centos01节点的NameNode已失效，centos02节点的NameNode自动激活为active（说明自动故障转移成功）
在这里插入图片描述

在这里插入图片描述

再测试hdfs命令，虽然有报错，但是的确还是可以成功执行：
在这里插入图片描述

…
在这里插入图片描述

接下来我们再在节点centos01重启NameNode:

sbin/hadoop-daemon.sh start namenode

在这里插入图片描述

此时centos01节点复活自动变为standby状态，centos02节点依旧为active：
在这里插入图片描述

在这里插入图片描述

再次测试hdfs命令，成功，没有报错：

在这里插入图片描述

philpy_used
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Hadoop：使用QJM搭建HDFS高可用性(HA)集群及使用zookeeper自动故障转移
Jodness' Blogs
06-05 1028
目录 高可靠性与高可用性 日志管理器QJM 搭建HA集群 ZooKeeper简介 自动故障转移 高可靠性与高可用性 高可靠性也可以称为高容错性，体现在一份数据以多份副本的形式存储在datanode中，并且通过自身持续的状态监控快速检测到冗余错误，并且能够快速、自动恢复失效的组件。 可以说高可靠性是保证了datanode上的数据可靠，而普通集群中只有一个namenode，如果唯一na...
搭建一个Hadoop集群 HDFS-HA （Zookeeper自动故障转移）
Mr.Zheng的博客
03-05 2570
前言 之前已经搭建过一个hadoop集群(搭建方法),在这个集群的基础上进行改进，引用Zookeeper来进行自动故障转移！ 搭建目标 HA简介 所谓HA（High Available），即高可用（7*24小时不中断服务）。 ​ Hadoop集群有HDFS和YARN！Hadoop的HA指HDFS和YARN必须保证可用性强(不能轻易故障，保持24h可用)！ ​ 以HDFS为例： ​ 必...
结合Zookeeper的HDFS自动故障转移
Pure_boy的博客
08-29 265
前提 安装了zookeeper。传送门 配置了Hadoop的HA。传送门 配置文件修改 etc/hadoop/hdfs-site.xml 添加以下内容 <property> <name>dfs.ha.automatic-failover.enabled</name> <value>true</value> </property> etc/hadoop/core-site.xml 添加以下内容（主机名根据自己的情况修改
HDFS HA【QJM】集群搭建以及使用Zookeeper集群进行故障转移
不清不慎的博客
04-01 605
一、HDFS HA概述 在hadoop2.x之前，hadoop集群只有一个namenode，存在单点故障【SPOF】，因此在一个namenode宕机或者该namenode所在的机器需要升级进行处理的时候，就需要停掉服务器，所有的服务都不能工作。因此，在hadoop2.x之后就提出了HDFS HA【High Availability】，HDFS HA通过配置Active/Standby两个name...
Zookeeper实现软负载均衡轮询和故障转移
wota5037的博客
01-06 660
使用Zookeeper实现负载均衡原理 思路 使用Zookeeper实现负载均衡原理，服务器端将启动的服务注册到，zk注册中心上，采用临时节点。客户端从zk节点上获取最新服务节点信息，本地使用负载均衡算法，随机分配服务器。当其中一台服务宕机后，本地监听节点变化，实现故障转移。 创建项目工程 Maven依赖 <dependencies> <dependency> <gr...
Hadoop3以及高可用HA搭建方式.zip
07-10
3. **配置Hadoop**：在`hdfs-site.xml`中设置HA模式，指定两个NameNode的地址，并启用ZKFailoverController。在`core-site.xml`中配置ZooKeeper的连接信息。 4. **格式化NameNode**：初次启动前，必须对每个...
hadoopHA搭建资源包
04-01
总的来说，这个资源包提供了一套完整的Hadoop HA搭建基础，涵盖了从环境准备到服务配置的所有关键组件。通过详细的配置和测试，你可以构建一个可靠的Hadoop集群，为大数据处理提供稳定的平台。在实际操作中，还需要...
大数据技术之HadoopHA视频教程
07-08
视频详细讲解，需要的小伙伴...你将通过本课程学习到，Hadoop存在的单点故障问题，解决单点故障的方案，搭建手动故障转移的HDFS-HA集群，搭建基于Zookeeper的自动故障转移的HDFS-HA集群以及自动故障转移的Yarn-HA集群。
HDFS High Availability（HA）高可用配置.doc
07-08
还需要安装Java JDK并配置环境变量，以及搭建Zookeeper集群。 集群规划阶段，要在每台主机上创建相应的目录结构，用于存放服务器软件、数据和配置文件。接着，下载并解压Hadoop安装包，根据实际需求进行定制化配置...
hdfs2-7_3+hbase1_2_5 HA withQJM环境搭建
04-05
`hbase分布式环境搭建.docx`提供了HBase环境搭建的详细指南，`hbase环境搭建脚本`包含自动化部署HBase的脚本，`hadoop环境搭建`文件可能包含Hadoop集群的配置步骤，而`zookeeper`文件可能包含了Zookeeper的配置信息...
HDFS HA 过程、架构、zookeeper如何实现自动故障转移
weixin_43681796的博客
08-11 636
1）HDFS HA 之所以有这么方案，是因为在hadoop1中的hdfs中只存在1个namenode，当namenode出现故障时，整个集群都会受到影响甚至歇菜，所以hadoop在2.0以后推出了HA方案。 2）这个方案准备了2个namenode，一个active的namenode和一个standby的namenode，active的负责所有对外操作，standby的只是作为一个备份，当acti...
6-zookeeper-hadoop-ha原理简述-fail
qq_37171694的博客
12-15 789
zookeeper-hadoop-6
3.16 使用Zookeeper对HDFS HA配置自动故障转移及测试
weixin_30647065的博客
04-18 250
一、说明从上一节可看出，虽然搭建好了HA架构，但是只能手动进行active与standby的切换；接下来看一下用zookeeper进行自动故障转移：# 在启动HA之后，两个NameNode都是standby状态，可以利用zookeeper的选举功能，选出一个当Active # 监控 ZKFC FailoverController二、配置1、hdfs-site.xml#”开启自动转...
配置HDFS-HA-ZOOKEEPER自动故障转移
cevent的博客
04-22 542
1.配置hdfs-site [cevent@hadoop202 hadoop-2.7.2]$ vim etc/hadoop/hdfs-site.xml <?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration...
CDH上HDFS配置HA后ZooKeeper无法访问hadoop-ha
data2tech的博客
06-07 318
当HDFS配置了NameNode HA后，通过zookeeper-client访问ZooKeeper的/hadoop-ha/nameservice1/ActiveStandbyElectorLock会报错。 报错信息： [root@ctkf01 ~]# zookeeper-client [zk: localhost:2181(CONNECTED) 3] ls /hadoop-ha/nameservice1/Act.
【大数据Hadoop】HDFS-HA模式下ZKFC(DFSZKFailoverController)高可用主备切换机制
如切如磋，如琢如磨，臻于至善。
03-26 2531
当一个NameNode被成功切换为Active状态时，它会在ZK内部创建一个临时的znode，在znode中将会保留当前Active NameNode的一些信息，比如主机名等等。当Active NameNode出现失败或连接超时的情况下，监控程序会将ZK上对应的临时znode进行删除，znode的删除事件会主动触发到下一次的Active NamNode的选择。根据检测出的不同状态之后，会调用enterState方法，在这个方法内部会触发相应状态的回调事件。这2个方法会在HDFS HA自动切换最后被调用。
hdfs整理
虎虎会跳舞的博客
08-21 283
文章目录1.hdfs ha架构图梳理2.yarn ha架构图梳理3.总结hdfs yarn ha架构区别4.hdfs dfs -ls 结果是哪个目录5.双写的理解6.小文件的理解 什么的小文件，危害，如何避免(产生前，产生后)7.主从架构的hbase读写经过master进程吗？ 1.hdfs ha架构图梳理 2.yarn ha架构图梳理 3.总结hdfs yarn ha架构区别 4.hdfs df...
HDFS、Zookeeper知识总结
Ya_Kai的博客
11-25 974
1、传统数据与大数据的对比 数据量：传统数据的单位是从GB到TB，大数据的单位是从TB到PB以上。 增长速度：传统数据的数据量稳定，增长速度缓慢； 大数据是持续实时生产 数据。 多样化：传统数据主要是结构化数据， 大数据是半结构化和非结构化数据。 价值：传统数据体现在统计和报表， 大数据是数据挖掘、预测分析等。 2、大数据服务器安装规范 系统硬盘 两块硬盘做一个RAID1 引导分区 200M 交换分区 可以不设置或设置的很小，因为在大数据中需要将其关闭 根分区 /（
hadoop HA集群搭建
最新发布
06-16
Hadoop High Availability (HA) 集群是为了提高Apache Hadoop集群的可靠性和可用性而设计的一种架构。它通过将关键服务（如NameNode和JobTracker）冗余部署，并在主节点故障时自动切换到备用节点，保证了数据处理任务的持续进行。下面是Hadoop HA集群搭建的基本步骤： 1. **安装并配置Hadoop**: - 安装Hadoop到两个或更多节点上，每个节点都是一个独立的Hadoop集群实例。 - 配置`core-site.xml`和`hdfs-site.xml`文件，设置集群的名称节点（NameNode）和数据节点（DataNodes）。 2. **启用HDFS HA**: - 在`hdfs-site.xml`中，设置`ha.fencing.methods`指定节点之间的心跳检测方法，例如SSH或JMX。 - 创建一个HDFS HA配置文件，如`core-site.xml.template`，并在实际集群中创建对应的配置文件。 3. **配置高可用NameNode**: - 设置`ha.zookeeper.quorum`为ZooKeeper集群地址，用于选举新的Active NameNode。 - 配置`dfs.nameservice.id`定义NameNode服务名。 - 在`hdfs-site.xml`中启用`dfs.ha.namenodes.<nameservice-id>`属性。 4. **设置Secondary NameNode**: - 在`hdfs-site.xml`中启用`dfs.ha.automatic-failover.enabled`，并配置`dfs.ha.automatic-failover.retry-interval`和`dfs.ha.automatic-failover.timeout`。 5. **配置ZooKeeper**: - 如果没有使用ZooKeeper，需要配置一个或多个ZooKeeper服务器作为NameNode服务选举的协调器。 6. **启动HDFS服务**: - 启动HDFS集群，包括两个NameNode（一个为主，一个为备）和足够的DataNodes。 7. **验证集群状态**: 使用`hdfs haadmin`命令检查集群状态、启动/关闭心跳检测和手动触发Failover。 8. **配置YARN HA**: 对于YARN资源管理器，类似地，需要配置ResourceManager HA（RMHA），并设置HA模式。 9. **测试和监控**: 确保服务可用，执行负载测试，并设置监控工具（如Hadoop Metrics2或Ganglia）来监控性能和异常。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值