Hadoop+Zookeeper+NameNode(HA)+ResourceManager(HA)自动切换 配置

最新推荐文章于 2022-10-05 19:08:40 发布
最新推荐文章于 2022-10-05 19:08:40 发布
阅读量5.7k 收藏 4
点赞数
分类专栏： hadoop 文章标签： hadoop ha
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nacey5201/article/details/49336913
版权

HDFS的NameNode的NameNode的HA配置

一，zookeeper的安装（略）。

启动Zookeeper。

二，Hadoop配置文件修改。

修改core-site.xml

<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://myCluster</value> <description>注意：myhadoop为集群的逻辑名，最好与hdfs-site.xml中的dfs.nameservices配置一致！否则在使用hdfs命令的时候，后面跟的路径就要指定全路径.如果不一致，那么执行hdfs dfs -ls /就会报错（java.net.UnknownHostException: ××××）。但可以通过这样的命令来执行：hdfs dfs -ls hdfs://myCluster </description> </property> <property> <name>ha.zookeeper.quorum</name> <value>trainingHadoop01:2181,trainingHadoop02:2181,trainingHadoop03:2181,trainingHadoop04:2181</value> <description>各个ZK节点的IP/host，及客户端连接ZK的端口，该端口需与zoo.cfg中的clientPort一致！</description> </property>
</configuration>
<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://myCluster</value>

<description>注意：myhadoop为集群的逻辑名，最好与hdfs-site.xml中的dfs.nameservices配置一致！否则在使用hdfs命令的时候，后面跟的路径就要指定全路径.如果不一致，那么执行hdfs

dfs -ls /就会报错（java.net.UnknownHostException: ××××）。但可以通过这样的命令来执行：hdfs

dfs -ls hdfs://myCluster

</description>

</property>

<property>

<name>ha.zookeeper.quorum</name>

<value>trainingHadoop01:2181,trainingHadoop02:2181,trainingHadoop03:2181,trainingHadoop04:2181</value>

<description>各个ZK节点的IP/host，及客户端连接ZK的端口，该端口需与zoo.cfg中的clientPort一致！</description>

</property>

</configuration>

修改hdfs-site.xml

<property>

<name>dfs.ha.automatic-failover.enabled</name>

<value>true</value>

<description>

Whether automatic failover is enabled. See the HDFS High

Availability documentation for details on automatic HA

configuration.

</description>

</property>

<property>

<name>dfs.nameservices</name>

<value>myCluster</value>

<description>

Comma-separated list of nameservices.

</description>

</property>

<property>

<name>dfs.ha.namenodes.myCluster</name>

<value>nn1,nn2</value>

<description>

The prefix for a given nameservice, contains a

comma-separated

list of namenodes for a given nameservice (eg

EXAMPLENAMESERVICE).

</description>

</property>

<property>

<name>dfs.namenode.rpc-address.myCluster.nn1</name>

<value>trainingHadoop01:8020</value>

</property>

<property>

<name>dfs.namenode.rpc-address.myCluster.nn2</name>

<value>trainingHadoop02:8020</value>

</property>

<property>

<name>dfs.namenode.http-address.myCluster.nn1</name>

<value>trainingHadoop01:50070</value>

</property>

<property>

<name>dfs.namenode.http-address.myCluster.nn2</name>

<value>trainingHadoop02:50070</value>

</property>

<property>

<name>dfs.namenode.servicerpc-address.myCluster.nn1</name>

<value>trainingHadoop01:53310</value>

</property>

<property>

<name>dfs.namenode.servicerpc-address.myCluster.nn2</name>

<value>trainingHadoop02:53310</value>

</property>

<property>

<name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://trainingHadoop02:8485;trainingHadoop03:8485;trainingHadoop04:8485/myCluster

</value>

</property>

<property>

<name>dfs.ha.fencing.methods</name>

<value>shell(/bin/true)</value>

<description>how to communicate in the switch process</description>

</property>

<property>

<name>dfs.ha.fencing.ssh.private-key-files</name>

<value>/home/hadoop/.ssh/id_rsa</value>

<description>the location stored ssh key</description>

</property>

<property>

<name>dfs.ha.fencing.ssh.connect-timeout</name>

<value>1000</value>

</property>

<property>

<name>dfs.namenode.handler.count</name>

<value>8</value>

</property>

<property>

<name>dfs.journalnode.edits.dir</name>

<value>/home/hadoop/hadoop-2.4.0/journal/</value>

</property>

<property>

<name>dfs.client.failover.proxy.provider.myCluster</name>

<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider

</value>

</property>

三、配置文件同步到其他集群中。

四、任意ZK节点上执行：
hdfs zkfc -formatZK

五、启动ZKFC （ZookeeperFailoverController是用来监控NN状态，协助实现主备NN切换的，所以仅仅在主备NN节点上启动就行）

hadoop-daemon.sh start zkfc
启动后我们可以看到ZKFC进程：[hadoop@trainingHadoop01 ~]$ jps
3084 QuorumPeerMain
3292 Jps
3247 DFSZKFailoverController
六、启动用于主备NN之间同步元数据信息的共享存储系统JournalNode。在集群中各个节点上执行。

hadoop-daemon.sh start journalnode

[hadoop@trainingHadoop01 ~]$ jps
3084 QuorumPeerMain
3358 Jps
3325 JournalNode
3247 DFSZKFailoverController
七、格式化并启动主NN

hdfs namenode -format

注意：只有第一次启动系统时需格式化，请勿重复格式化！

在主NN节点执行命令启动NN:
hadoop-daemon.sh start namenode
启动后可以看到NN进程：
[hadoop@trainingHadoop01 ~]$ jps
3084 QuorumPeerMain
3480 Jps
3325 JournalNode
3411 NameNode
3247 DFSZKFailoverController

八、在备NN上同步主NN的元数据信息
hdfs namenode -bootstrapStandby
九、启动备NN
在备NN上执行命令：
hadoop-daemon.sh start namenode

十、设置主NN（这一步可以省略，这是在设置手动切换NN时的步骤，ZK已经自动选择一个节点作为主NN了）
到目前为止，其实HDFS还不知道谁是主NN，可以通过监控页面查看，两个节点的NN都是Standby状态。
下面我们需要在主NN节点上执行命令激活主NN：
hdfs haadmin -transitionToActive nn1

十一、主NN上启动Datanode
在[nn1]上，启动所有datanode
hadoop-daemons.sh start datanode
所有节点启动完成后，验证主备切换。

首先打开地址：

http://10.21.16.48:50070/dfshealth.html#tab-overview&nbsp;

Overview 'trainingHadoop02:8020' (standby)

http://10.21.16.47:50070/dfshealth.html#tab-overview

Overview 'trainingHadoop01:8020' (active)

这个时候kill 掉trainingHadoop01 机器上的namenode进程。

刷新http://10.21.16.48:50070/dfshealth.html#tab-overview 这个地址。展示的是

Overview 'trainingHadoop02:8020' (active)

可能出现的问题：

Standby NN continuing as standby when active NN machine got shutdown.---这是个bug.在hadoop-2.4.0上，不过可以通过配置来解决这个问题。

<property>
   <name>dfs.ha.fencing.methods</name>
   <value>shell(/bin/true)</value>
</property>

Yarn的ResourceManage的HA配置

主要是修改yarn-site.xml

<property>

<name>yarn.resourcemanager.ha.enabled</name>

<value>true</value>

</property>

<property>

<description>Enable automatic failover.

By default, it is enabled only when HA is enabled

</description>

<name>yarn.resourcemanager.ha.automatic-failover.enabled</name>

<value>true</value>

</property>

<property>

<name>yarn.resourcemanager.ha.rm-ids</name>

<value>rm1,rm2</value>

</property>

<property>

<name>yarn.resourcemanager.zk-address</name>

<value>trainingHadoop01:2181,trainingHadoop02:2181,trainingHadoop03:2181

</value>

</property>

<property>

<name>yarn.resourcemanager.hostname.rm1</name>

<value>trainingHadoop01</value>

</property>

<property>

<name>yarn.resourcemanager.hostname.rm2</name>

<value>trainingHadoop02</value>

</property>

<property>

<name>yarn.resourcemanager.ha.id</name>

<value>rm1</value>

<description>If we want to launch more than one RM in single node, we

need this configuration</description>

</property> 

    <!开启自动恢复功能>

<property>

<name>yarn.resourcemanager.recovery.enabled</name>

<value>true</value>

</property>

<property>

<name>yarn.resourcemanager.store.class</name>

<value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore

</value>

</property>

<property>

<name>yarn.resourcemanager.cluster-id</name>

<value>yarn-cluster</value>

</property> 

将修改后的配置文件yarn-site.xml同步到集群中另外一台机器上。

启动，yarn-daemon.sh start resourcemanager

访问http://trainingHadoop01:8088/  

展示的是active的页面

在备用机器上也启动resourcemanager.

访问http://trainingHadoop01:8088/

展示的是standby的页面This is standby RM. Redirecting to the current active RM: http://trainingHadoop02:8088/cluster
然后会自动跳转到active的地址。
自动切换验证：

将active的机器的resourcemanager的进程kill掉。

standby的备用的机器变为active。

nacey5201
关注
专栏目录
hadoop+zookeeper+kafka集群搭建
Qinsurpass的博客
06-03 993
hadoop+zookeeper+kafka集群搭建创建四台虚拟机分别在四台虚拟机中编辑ip地址重启网络并ping通www.baidu.com、关闭防火墙四台虚拟机分别修改hostname编辑/etc/hosts创建文件夹，并导入安装包密钥pass1(234),pass2(134),pass3(124)集群环境编辑脚本，在root目录下创建bin文件夹jdk安装hadoop配置 创建四台虚拟机 192.168.199.161 pass1 192.168.199.162 pass2 192.168.199.1
hadoop2.x通过Zookeeper来实现namenode的HA方案集群搭建-实践版
weixin_30318645的博客
06-26 189
最近有时间整理了一下全套hadoop2.x通过Zookeeper来实现namenode的HA方案，步骤如下： 实验使用了4个节点，192.168.1.201~192.168.1.2041、配置静态IP，如下以201节点为例，其它节点除了IP不一样，其它内容配置一样即可： vi /etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE=eth0 ...
hadoop2 resourcemanager 主备切换
senvil的专栏
10-05 6486
Hadoop主备查询和切换 （1）主备查询 hdfs haadmin -getServiceState nn1 yarn rmadmin -getServiceState rm1     （2）主备切换 在Hadoop的各种HA中，有个隐藏属性是很多人不知道的，就是强制切换，一般来说，我们通过命令行切换HA，需要去运行 hdfs haadmin -transitionToActive/
Hadoop服役新服务器和推移旧服务器
一个有趣、有料、有内涵的地方!
09-28 214
服役新服务器 1）需求 随...
HBase+ZooKeeper+Hadoop2.6.0的ResourceManager HA集群高可用配置 [复制链接] 韩克拉玛寒 韩克拉玛寒 当前离线 积分2439. 窥视卡 雷达
张伟的专栏
08-08 1350
HBase+ZooKeeper+Hadoop2.6.0的ResourceManager HA集群高可用配置 [复制链接]     韩克拉玛寒 韩克拉玛寒 当前离线 积分2439 窥视卡 雷达卡 40 主题
利用zookeeper来实现namanode的高可用(HA)(第二篇)
最长的电影
03-27 246
利用zookeeper来实现namanode的高可用(HA)(第二篇,接上篇)     机器设备:为了叙述方面 采用nodeX的形式来表示主机名 192.168.159.31(node1)                Namenode   192.168.159.32(node2) zookeeper      Datanode     JN(JournalNode)    ...
hadoop+zookeeper+hbase集群搭建配置说明
06-22
在配置完成后，启动各个服务，包括Hadoop的NameNode、DataNode、SecondaryNameNode、ResourceManager、NodeManager，Zookeeper服务器，以及HBase的Master和RegionServer。为了验证集群是否正常工作，你可以创建一个...
hadoop+zookeeper安装包
最新发布
08-02
8. **启动服务**：按照启动顺序依次启动DataNode、NameNode、ResourceManager、NodeManager和Zookeeper服务。可以使用start-dfs.sh和start-yarn.sh脚本启动Hadoop服务，Zookeeper则使用`zkServer.sh start`命令。 9...
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase）
03-30
集群规划包括NameNode、DataNode、ResourceManager、NodeManager、Zookeeper和HBase等组件的规划。 三、Hadoop、Zookeeper和HBase版本兼容性 在搭建Hadoop HA高可用集群时，需要考虑到Hadoop、Zookeeper和HBase三...
hadoop+zookeeper(ha架构搭建）
Helloway的博客
08-16 1万+
hdfs的HA机制：NameNode服务器一台是ACTIVE，另一台是STANDBY。通过Qjournal(日志管理系统) 使用zkfc（基于zookeeper失败切换控制)，管理集群的主节点的失败切换，防止集群单个主节点的宕机问题。 一、在数据节点slave1、slave2、slave3的hadoop的安装目录下新建app目录，在该app目录下新建zookeeper目录，用于放置zookeep
linux rose 切换不成功,YARN HA切换不成功
weixin_35798040的博客
05-12 494
我的yarn-site.xmlyarn.nodemanager.aux-servicesmapreduce_shuffleyarn.nodemanager.aux-services.mapreduce.shuffle.classorg.apache.hadoop.mapred.ShuffleHandleryarn.nodemanager.resource.memory-mb1024yarn.sch...
【原创】大叔经验分享（4）Yarn ResourceManager页面如何实现主被自动切换
weixin_30564901的博客
12-12 457
hdfs、yarn、hbase这些组件的master支持多个，实现自动主备切换，其中hdfs、hbase无论访问主master或者备master都可以正常访问页面，但是yarn比较特别，只有主master的页面可以访问，备master会返回Refresh，3s后重定向； 一种方式是提供两个域名，分别对应两个yarn的master，一旦有master切换，需要手工切换到另外一个，有没有更好的方式？...
hadoop报错： Operation category READ is not supported in state standby
热门推荐
u012447842的博客
05-29 12万+
问题1： Operation category READ is not supported in state standby 初步判断是由于HA节点中处于standby状态造成的异常   原因： 原来nn1机器是active，nn2是standby, 现在nn1变成了standby。   （1）在hadoop2.0中通常由两个NameNode组成，一个处于active状态，另一个处于standby状态。Active NameNode对外提供服务，而Standby NameNode则
Hadoop HA 集群部署（以三台为例），zookeeper集群管理
youhebuke_f的博客
10-05 3018
Hadoop ha高可用集群部署
爬取 yarn.resourcemanager.webapp.address 页面 Cluster Scheduler 数据脚本模板
卡布奇诺加点冰
07-31 705
#${cluster_dir}/cluster_scheduler.sh.template #爬取 yarn.resourcemanager.webapp.address 页面 Cluster Scheduler 数据脚本模板 #版权声明：不定期更新维护地址，看这里→_→ https://blog.csdn.net/qq_16592497/article/details/81299060 #脚...
HDFS 和 YARN 的 HA 故障切换
张伟的专栏
09-15 1675
HDFS 和 YARN 的 HA 故障切换 2016-01-01 11:09 662人阅读 评论(0) 收藏 举报 目录(?)[+] 一 非 HDFS HA 集群转换成 HA 集群二 HDFS 的 HA 自动切换命令 1 获得当前 NameNode 的 active 和 standby 状态2 NameNode 的 active
解决Hadoop HA模式下启动Resourcemanager进程失败
henry559的博客
09-05 2674
项目场景： 配置YARN的HA模式，单独启动Resourcemanager进程，感受YARN HA模式的故障自动转移功能 问题描述： 配置好YARN的HA模式，并且使用脚本同步后，在hadoop102和hadoop103节点中启动Resourcemanager进程都失败 [henry@hadoop103 ~]$ yarn-daemon.sh start resourcemanager starting resourcemanager, logging to /opt/module/hadoop-2.7.
Hadoop HA(高可用) namenode不能自动切换
m0_49043752的博客
06-14 567
Hadoop HA(高可用) namenode不能自动切换 com.jcraft.jsch.JSchException: invalid privatekey unable to fence NameNode at xxxx/xxx.xxx.xx.xx:8020
HA切换强制namenode
qq_22528315的博客
04-19 713
启动dfs发现希望的主namenode一直standby，配置了 dfs.ha.automatic-failover.enabled 直接手动切换会报错，但是又不想取消这个配置，所以采用强制切换步骤如下： 1. 执行强制切换命令 --forcemanual + 需要变active的namenode hdfs haadmin -transitionToActive --forcemanual nn1 2. 正常应该直接执行ToActive就行，但我这里查看状态还是没变化，所以继续给定切换命令 为
CentOS7.2下Hadoop+Zookeeper+HBase HA集群搭建指南
8. 测试NameNode的HA切换功能，确保故障转移工作正常。 9. 配置和启动HBase，确保其与HA的HDFS兼容。 10. 进行性能测试和监控，以验证HA集群的稳定性和效率。 通过这个集群搭建过程，读者将深入了解Hadoop HA的实现...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值