Hadoop HA集群配置及使用

最新推荐文章于 2024-04-27 12:18:01 发布
最新推荐文章于 2024-04-27 12:18:01 发布
阅读量1.1k 收藏 5
点赞数 2
文章标签： hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/AlierSnow/article/details/107184507
版权

在2.x版本中Hadoop HA
一台配置为Active Namenode，对外提供服务
若干台配置为：Standby Namenode，待机状态

集群规划

机器名hadoop2hadoop3hadoop4
namenodenn1nn2
resourcemanagerrm1rm2
HDFSNameNode DataNode JournalnodeNameNode DataNode JournalnodeDataNode Journalnode
YARNNodeManager ResourceManagerNodeManager ResourceManagerNodeManager

前提：
完成hadoop完全分布式和zookeeper完全分布式环境、各台机器免密登录

三台机器配置文件如下：

core-site.xml

<configuration>
   <!-- 把两个 NameNode的地址组装成一个集群 mycluster -->
   <property>
     	<name>fs.defaultFS</name>
     	<value>hdfs://mycluster</value>
   </property>
   <!-- 指定 hadoop 运行时产生文件的存储目录 -->
   <property>
    	 <name>hadoop.tmp.dir</name>
     	 <value>/opt/soft/hadoop260/tmp</value>
   </property>
   <!-- 指定zookeeper地址 -->
   <!--zookeeper的ip/主机名和端口号（2181，即zookeeper接收客户端请求的端口号）-->
   <property>
     	<name>ha.zookeeper.quorum</name>
     	<value>192.168.197.120:2181,192.168.197.130:2181,192.168.197.140:2181</value>
   </property>
   <property>
    	 <name>hadoop.proxyuser.root.hosts</name>
    	 <value>*</value>
   </property>
   <property>
    	 <name>hadoop.proxyuser.root.groups</name>
    	 <value>*</value>
   </property>
</configuration>

hdfs-site.xml

<configuration>
	<!-- 完全分布式集群名称 -->
	<property>
	 	 <name>dfs.nameservices</name>
	  	 <value>mycluster</value>
	</property>
	<!-- 集群中 NameNode 节点都有哪些,这里是 nn1 和 nn2 -->
	<property>
	  	<name>dfs.ha.namenodes.mycluster</name>
	  	<value>nn1,nn2</value>
	</property>
	<!-- nn1 的 RPC 通信地址 -->
	<property>
	  	<name>dfs.namenode.rpc-address.mycluster.nn1</name>
	  	<value>192.168.197.120:9000</value>
	</property>
	<!-- nn2 的 RPC 通信地址 -->
	<property>
	 	 <name>dfs.namenode.rpc-address.mycluster.nn2</name>
	  	 <value>192.168.197.130:9000</value>
	</property>
	<!-- nn1 的 http 通信地址 -->
	<property>
	  	<name>dfs.namenode.http-address.mycluster.nn1</name>
	  	<value>192.168.197.120:50070</value>
	</property>
	<!-- nn2 的 http 通信地址 -->
	<property>
	  	<name>dfs.namenode.http-address.mycluster.nn2</name>
	  	<value>192.168.197.130:50070</value>
	</property>
	<!-- 指定 NameNode 元数据在 JournalNode 上的存放位置 -->
	<property>
	  	<name>dfs.namenode.shared.edits.dir</name>
	  	<value>qjournal://192.168.197.120:8485;192.168.197.130:8485;192.168.197.140:8485/mycluster</value>
	</property>
	<!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->
	<property>
	  	<name>dfs.ha.fencing.methods</name>
	  	<value>sshfence</value>
	</property>
	<!-- 使用隔离机制时需要 ssh 无秘钥登录-->
	<property>
	  	<name>dfs.ha.fencing.ssh.private-key-files</name>
	  	<value>/root/.ssh/id_rsa</value>
	</property>
	<!-- 声明 journalnode 服务器存储目录-->
	<property>
	  	<name>dfs.journalnode.edits.dir</name>
	  	<value>/opt/soft/hadoop260/data/jn</value>
	</property>
	<!-- 关闭权限检查-->
	<property>
	  	<name>dfs.permissions.enable</name>
	  	<value>false</value>
	</property>
	<!-- 访问代理类：client，mycluster，active 配置失败自动切换实现方 式-->	
	<property>
	  	<name>dfs.client.failover.proxy.provider.mycluster</name>
	  	<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
	<!--副本数设置-->
	<property>
		  <name>dfs.replication</name>
		  <value>3</value>
	</property>
	<!--secondarynamenode 访问地址-->
	<property>
		  <name>dfs.namenode.secondary.http-address</name>
		  <value>192.168.197.140:50090</value>
	</property>
	<!--自动故障转移-->
	<property>
		  <name>dfs.ha.automatic-failover.enabled</name>
		  <value>true</value>
	</property>
</configuration>

yarn-site.xml

<configuration>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	<!--启用 resourcemanager ha-->
	<property>
		<name>yarn.resourcemanager.ha.enabled</name>
		<value>true</value>
	</property>
	<!--resourcemanager集群编号-->
	<property>
		<name>yarn.resourcemanager.cluster-id</name>
		<value>cluster-yarn1</value>
	</property>
	<!--resourcemanager id 分配-->
	<property>
		<name>yarn.resourcemanager.ha.rm-ids</name>
		<value>rm1,rm2</value>
	</property>
	<!--每台主机对应一个resourcemanager id   rm1分配给hadoop2-->
	<property>
		<name>yarn.resourcemanager.hostname.rm1</name>
		<value>192.168.197.120</value>
	</property>
	<!--每台主机对应一个resourcemanager id   rm2分配给hadoop3-->
	<property>
		<name>yarn.resourcemanager.hostname.rm2</name>
		<value>192.168.197.130</value>
	</property>
	<!--指定 zookeeper 集群的地址-->
	<property>
		<name>yarn.resourcemanager.zk-address</name>
		<value>192.168.197.120:2181,192.168.197.130:2181,192.168.197.140:2181</value>
	</property>
	<!--启用自动恢复-->
	<property>
		<name>yarn.resourcemanager.recovery.enabled</name>
		<value>true</value>
	</property>
	<!--指定 resourcemanager 的状态信息存储在 zookeeper 集群-->
	<property>
		<name>yarn.resourcemanager.store.class</name>
		<value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
	</property>
</configuration>

mapred-site.xml

<configuration>
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
</configuration>

搭建步骤

1.在各个 JournalNode 节点上，输入以下命令启动 journalnode 服务：

sbin/hadoop-daemon.sh start journalnode
（三台）jps：JournalNode 启动

2.在[nn1]上，对其进行格式化，并启动：

bin/hdfs namenode -format 
sbin/hadoop-daemon.sh start namenode
jps：NameNode 启动

3.在[nn2]上，同步 nn1 的元数据信息：

bin/hdfs namenode -bootstrapStandby

4.启动[nn2]：

sbin/hadoop-daemon.sh start namenode
jps：NameNode 启动

5.查看 web 页面 192.168.197.120:50070和192.168.197.120:50070，此时nn1和nn2都是 standby状态

在这里插入图片描述在这里插入图片描述

6.确保hadoop2中datade clusterID、name clusterID,hadoop2中datade clusterID、name clusterID和hadoop4中datade clusterID 全都和hadoop2 name clusterID 保持一致。

a.[nn1]上查询hadoop的name中的VERSION ，复制clusterID。

cat /opt/soft/hadoop260/data/tmp/dfs/name/current/VERSION

name中VERSION 文件内容：

#Tue Jul 07 17:47:26 CST 2020
namespaceID=985851890
clusterID=CID-555adbb2-ea3a-46a5-b754-d790d4fef8c1
cTime=0
storageType=NAME_NODE
blockpoolID=BP-538205956-192.168.197.120-1594115246246
layoutVersion=-60

b.修改hadoop2、hadoop3、hadoop4上hadoop的data中的VERSION 文件，把clusterID替换为已复制clusterID

vi /opt/soft/hadoop260/data/tmp/dfs/data/current/VERSION

c.修改hadoop3上hadoop的name中的VERSION文件，把clusterID替换为已复制clusterID

vi /opt/soft/hadoop260/data/tmp/dfs/name/current/VERSION

hadoop2：
在这里插入图片描述hadoop3:
在这里插入图片描述
hadoop4:
在这里插入图片描述
7.在[nn1]上，启动所有 datanode

sbin/hadoop-daemons.sh start datanode

8.启动 Zookeeper 集群

zkServer.sh start

9.将[nn1]切换为 Active

bin/hdfs haadmin -transitionToActive nn1

10.查看是否 Active

bin/hdfs haadmin -getServiceState nn1

zookeeper 自动选举

1.关闭所有 HDFS服务：

sbin/stop-dfs.sh

2.启动 Zookeeper 集群：

//三台各自启动
bin/zkServer.sh start

3.初始化 HA 在 Zookeeper 中状态：

bin/hdfs zkfc -formatZK

4.启动 yarn nodemanager 和resourcemanager
在 hadoop2 中执行：

//集群nodemanager启动
 sbin/start-yarn.sh

在这里插入图片描述
在 hadoop3 中执行：

//hadoop3上resourcemanager启动
sbin/yarn-daemon.sh start resourcemanager

查看服务状态：

bin/yarn rmadmin -getServiceState [rm1|rm2]

在这里插入图片描述
5.[nn1]启动 HDFS 服务：

sbin/start-dfs.sh

执行顺序如下：在这里插入图片描述两个namenode网页刷新，hadoop2 active状态 hadoop3 standby
在这里插入图片描述
在这里插入图片描述

6.在各个 NameNode 节点上启动 DFSZK Failover Controller，先在哪台机器 启动，哪个机器的 NameNode 就是 Active NameNode

sbin/hadoop-daemon.sh start zkfc

注意：这里是hadoop-daemon.sh start zkfc 不是hadoop-daemons.sh ，没有s，否则报错如下：

报错：Exception in thread "main" org.apache.hadoop.HadoopIllegalArgumentException: 
Could not get the namenode ID of this node. You may run zkfc on the node other than namenode.

将hadoop2和hadoop3上DFSZKFailoverController停止

sbin/hadoop-daemon.sh stop zkfc

此时DFSZKFailoverController进程已经停止，然后先在hadoop3上启动DFSZKFailoverController服务，再在haoop2上启动服务DFSZKFailoverController，观察Active NameNode 和Standby NameNode。

3.验证

将 Active NameNode 机器断开网络

# service network stop

hadoop3已断开，hadoop2选举为leader，称为Active NameNode
在这里插入图片描述这一步需要在VM 后台或系统操作台上执行，网络断开后xshell已经连接不上了。
执行如下命令重启网络连接。

service network start

在这里插入图片描述

此时xshell可以连接机器。恢复hadoop3网络，重启namenode。

sbin/start-ll.sh
zkServer.sh start

刷新hadoop3 namenode网页，其作为Standby。
在这里插入图片描述

百夜﹍悠ゼ
关注
hadoop——HA集群部署
m0_65809235的博客
06-28 1313
各节点布置NameNodeDataNodeNameNodeDataNode。
2024年贵州省职业院校技能大赛“大数据应用开发“赛题②
旺仔Sec&blog
04-03 593
背景描述 大数据时代背景下，电商经营模式发生很大改变。在传统运营模式中，缺乏数据积累，人们在做出一些决策行为过程中，更多是凭借个人经验和直觉，发展路径比较自我封闭。而大数据时代，为人们提供一种全新的思路，通过大量的数据分析得出的结果将更加现实和准确。商家可以对客户的消费行为信息数据进行收集和整理，比如消费者购买产品的花费、选择产品的渠道、偏好产品的类型、产品回购周期、购买产品的目的、消费者家庭背景、工作和生活环境、个人消费观和价值观等。通过数据追踪，知道顾客从哪儿来，是看了某网站投放的广告还是通过朋友推荐链
Hadoop2.6.2完全分布式集群HA模式安装配置详解
Meyao's Blog
04-13 7456
一、机器配置清单(8节点) hadoop100 节点：NameNode、DFSZKFailoverController(ZKFC) hadoop101 节点：NameNode、DFSZKFailoverController(ZKFC) hadoop102: 节点：ResourceManager hadoop103: 节点：ResourceManager hadoop104: 节点：Data
Hadoop HA集群配置
Z_Data的博客
11-08 648
目录   一、 基础配置 创建7台机器，设置静态ip分别如下： 2、 hadoop配置 集群规划 安装步骤 1、安装配置zooekeeper集群（在ha5上）（更详细zookeeper安装步骤参见zookeeper安装） 2、安装配置hadoop集群（在ha1上操作） 2.1解压 2.2配置HDFS（hadoop2.0所有的配置文件都在$HADOOP_HOME/etc/hado...
Hadoop集群部署（HA）
小七的编程日志
08-10 524
三台CentOS7的机器分别为cdh50-121，cdh50-122，cdh50-127，用户名都是hdfs，并且设置免密互信 一、安装前准备 下载地址https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/，下载hadoop-3.1.3.tar.gz 为方便操作，zookeeper安装在用户目录下（/home/hdfs）后续操作都以hdfs用户操作 压缩包放置到用户目录，并且解压压缩包，解压后文件夹名修改为hadoopcd ~ tar z.
hadoop集群配置HA
科小勒的博客
12-25 240
配置HA，基于Zookeeper配置完成 配置NameNode 一 准备工作 1.把所有的服务给停掉 2.清理/tmp下所有的内容 3.删除hadoop中的data和logs 4.一定要保证各节点之间可以使用ssh无密登录 二 手动故障转移 5.配置core-site.xml <!--指定HDFS中NameNode的地址 --> <property> <name>fs.defaultFS</name> <value>hdf
HadoopHA集群配置文件
11-28
配置Hadoop HA集群需要对这些文件进行精确调整，以实现命名节点的自动故障切换、保证数据的安全性和一致性，以及优化资源分配和任务调度。在实际操作中，还需要关注其他配置，比如Zookeeper的设置（用于协调NN的故障...
第5章-Hadoop HA集群配置.pdf
05-19
Hadoop HA 集群配置 本章节将详细介绍 Hadoop HA 集群配置的实验步骤，包括高可用 ZooKeeper 集群的部署、配置和启动。整个实验过程共分为三个部分：实验一：高可用 ZooKeeper 集群部署、实验二：Hadoop HA 集群...
Hadoop HA集群配置.docx
08-23
总之，配置Hadoop HA集群是一个复杂的过程，涉及到多个组件的协同工作，尤其是ZooKeeper作为基石，对于整个集群的稳定性和高可用性至关重要。正确配置和管理ZooKeeper集群是实现Hadoop HA的关键步骤之一。
HadoopHA集群部署、规划HadoopHA集群教学课件.pptx
06-20
3. **Hadoop HA集群配置方法** 在完全分布式集群基础上配置HA，我们需要规划服务器角色，例如： - Master节点（192.168.128.128）：包含Active NameNode和Active ResourceManager。 - Slave1（192.168.128.129）...
HadoopHA集群部署、YARNHA配置、启动与验证教学课件.pptx
06-20
【Hadoop HA集群部署】是高可用(High Availability)配置的一种，主要目的是为了确保Hadoop分布式文件系统在遇到单点故障时，能够自动切换到备用节点，保证服务不间断。这通常涉及到NameNode HA，Secondary NameNode...
配置Hadoop-HA集群
子清的博客
09-08 171
1.环境准备 修改IP地址与hostname 部署zookeeper:《zookeeper的安装与配置》 部署hadoop：《搭建hadoop集群》 设置时区同步：《Linux时间同步》 2.修改配置文件 2.1修改core-site.xml <configuration> <!--指定hdfs的nameserve为ns--> <property> <name>fs.defaultFS</name> <value>hdfs:/
Hadoop HA集群部署(详细版)
longtxue
04-03 3239
Hadoop版本: 2.7.6 CentOS版本: 7.6.1810 集群: 3台 百度网盘: 提取码：1111 Hadoop HA说明 HDFS集群中NameNode 存在单点故障（SPOF）。对于只有一个NameNode的集群，如果NameNode机器出现意外情况，将导致整个集群无法使用，直到NameNode 重新启动。 HDFS自动故障转移 HDFS的自动故障转移主要由Zookeeper（Zookeeper很重要啊）和ZKFC两个组件组成。 Zookeeper..
hadoop高可用HA集群配置
Joie_TJ的博客
09-10 259
hadoop HA模式搭建一 、 搭建集群二 、修改配置文件三 、启动集群四 、测试集群是否部署成功 一 、 搭建集群 Hadoop HA模式搭建前需要完成hadoop集群配置、时区同步设置和zookeeper安装配置 二 、修改配置文件 修改core-site.xml文件 <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://ns</
Hadoop集群搭建与配置
最新发布
2203_75921162的博客
04-27 1179
一、Hadoop是什么？二、Hadoop集群的搭建和配置1、安装方式2、设置静态IP3、远程连接虚拟机4、防火墙5、设置主机名6、设置主机名与IP的映射7、安装JAVA8、安装Hadoop大数据时代下，针对大数据处理的新技术也在不断地开发和运用中，并逐渐成为数据处理挖掘行业广泛使用的主流技术之一。在大数据时代，Hadoop作为处理大数据的分布式存储和计算框架，在国内外大、中、小型企业中已得到了广泛应用。学习Hadoop技术是从事大数据行业工作必不可少的一步。
Hadoop HA集群部署
11号车厢
07-11 654
文章目录1、环境要求2、角色分配3、部署前准备注意：3.1-3.7小节，3台机器都要操作小技巧：CRT发送一条命令，同时操作多台机器3.1 添加用户和相关目录3.2 安装lrzsz并上传软件3.3 关闭防火墙3.4 配置host文件3.5 配置SSH免密码通信3.6 安装jdk3.7 配置时钟同步4、部署ZooKeeper4.1 解压、配置zk环境变量4.2 修改zk配置文件4.3 启动zk集群...
HA集群配置
weixin_34114823的博客
12-20 213
一、什么是HA集群? HA即(high available)高可用,又叫做双机热备,用于关键性业务,简单理解就是,有两台机器A和B,正常提供服务的是A机器,B机器待命,当A机器停止服务后,会切换到B机器继续提供服务.常用实现高可用的开源软件有heartbeat和keepalived,其中keepalived有负载均衡的功能.二、heartbeat的工作原理heartbeat...
Hadoop HA集群搭建
痞帅小生的博客
08-05 730
Hadoop HA集群搭建   一：在安装搭建之前简单了解一下 hadoop ha 为什么会有hadoop HA机制呢？ HA：High Available，高可用 在Hadoop 2.0之前,在HDFS 集群中NameNode 存在单点故障 对于只有一个 NameNode 的集群，如果 NameNode 机器出现故障(比如宕机或是软件、硬件 升级)，那么整个集群将无法使用，直到 Nam...
Hadoop-HA集群安装部署
RomanyK的博客
04-21 4284
HA高可用集群安装部署 两台主节点一台从节点（即一台active、一台standby，条件允许也可配多台standby）解决单点故障
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值