Hadoop集群搭建安装教程（续集）高可用（HA）

最新推荐文章于 2024-05-02 20:59:28 发布
最新推荐文章于 2024-05-02 20:59:28 发布
阅读量407 收藏 2
点赞数
分类专栏： 大数据 文章标签： hadoop 大数据 hdfs
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhang_232/article/details/128042713
版权
本文详细介绍了如何搭建Hadoop集群的高可用环境，包括Zookeeper集群的配置，Hadoop集群的全新安装，配置文件的修改，如core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml等，以及启动和测试高可用集群的过程。通过这个过程，实现了NameNode和ResourceManager的故障切换，确保了集群的稳定性和数据安全性。
摘要由CSDN通过智能技术生成

针对Hadoop集群的高可用环境，研究搭建方式，根据相关资料和教程以及自己实际操作，整理步骤如下。

集群规划

节点运行角色
node1namenode、zkfc、zookeeper、journal node
node2namenode、zkfc、zookeeper、journal node
node3                                zookeeper、journal node

1 zookeeper集群搭建

下载：地址Apache ZooKeeper

解压

tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz

修改配置

# 配置文件目录
cd apache-zookeeper-3.7.1-bin/conf/
# 拷贝模板
cp zoo_sample.cfg zoo.cfg
#打开文件
vim zoo.cfg

 修改内容

# 修改
dataDir=/export/data/zkdata
#添加


server.1=node1:2888:3888
server.2=node2:2888:3888
server.3=node3:2888:3888

 

 

 创建配置文件中的文件夹

mkdir /export/data/zkdata
#写入id
echo 1 > /export/data/zkdata/myid

将配置好的zookeeper拷贝到其他节点

 重命名

 mv apache-zookeeper-3.7.1-bin zookeeper-3.7.1

拷贝

 scp -r zookeeper-3.7.1 root@node2:$PWD
 scp -r zookeeper-3.7.1 root@node3:$PWD

编辑node2、node3

创建对应的文件夹和myid

对应/export/data/zkdata/myid内容
            node2：                

mkdir /export/data/zkdata
echo 2 > /export/data/zkdata/myid

   node3：                

mkdir /export/data/zkdata
echo 3 > /export/data/zkdata/myid

2 Hadoop集群配置

第一步：原有Hadoop保存

移动之前需要停止集群服务

# 查看当前是否启动了hadoop集群服务
jps

# 如果已经启动 停止
# 停止hdfs
stop-dfs.sh
# 停止yarn
stop-yarn.sh

保存原Hadoop环境

 mv /export/servers/hadoop-3.1.4 /export/servers/hadoop-3.1.4-bak

第二步：全新Hadoop包上传，解压

 tar -zxvf hadoop-3.1.4.tar.gz -C /export/servers/

前面环境变量已经配置，在此可以查看一下

 vim /etc/profile

 第三步：配置文件

配置hadoop-env.sh

vim hadoop-env.sh

添加java配置

export JAVA_HOME=/export/servers/jdk1.8.0_65

 

 添加各个角色运行的用户

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_JOURNALNODE_USER=root
export HDFS_ZKFC_USER=root

修改core-site.xml

vim core-site.xml

 配置内容

<!-- HA集群名称，该值要和hdfs-site.xml中的配置保持一致 -->
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://mycluster</value>
	</property>

	<!-- hadoop本地磁盘存放数据的公共目录 -->
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/export/data/ha-hadoop</value>
	</property>

	<!-- ZooKeeper集群的地址和端口-->
	<property>
		<name>ha.zookeeper.quorum</name>
		<value>node1.itcast.cn:2181,node2.itcast.cn:2181,node3.itcast.cn:2181</value>
	</property>

修改hdfs-site.xml

进入hdfs-site.xml文件

vim hdfs-site.xml

 配置内容

<!--指定hdfs的nameservice为mycluster，需要和core-site.xml中的保持一致 -->
	<property>
		<name>dfs.nameservices</name>
		<value>mycluster</value>
	</property>
	
	<!-- mycluster下面有两个NameNode，分别是nn1，nn2 -->
	<property>
		<name>dfs.ha.namenodes.mycluster</name>
		<value>nn1,nn2</value>
	</property>

	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn1</name>
		<value>node1.btks.cn:8020</value>
	</property>

	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn1</name>
		<value>node1.btks.cn:9870</value>
	</property>

	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.mycluster.nn2</name>
		<value>node2.btks.cn:8020</value>
	</property>
	
	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.mycluster.nn2</name>
		<value>node2.btks.cn:9870</value>
	</property>

	<!-- 指定NameNode的edits元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
		<value>qjournal://node1.btks.cn:8485;node2.btks.cn:8485;node3.btks.cn:8485/mycluster</value>
	</property>
	
	<!-- 指定JournalNode在本地磁盘存放数据的位置 -->
	<property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/export/data/journaldata</value>
	</property>

	<!-- 开启NameNode失败自动切换 -->
	<property>
		<name>dfs.ha.automatic-failover.enabled</name>
		<value>true</value>
	</property>

	<!-- 指定该集群出故障时，哪个实现类负责执行故障切换 -->
	<property>
		<name>dfs.client.failover.proxy.provider.mycluster</name>
		<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>

	<!-- 配置隔离机制方法 ，shell(/bin/true)是后加的-->
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>sshfence
			shell(/bin/true)
		</value>
	</property>
	
	<!-- 使用sshfence隔离机制时需要ssh免登陆 -->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/root/.ssh/id_rsa</value>
	</property>
	
	<!-- 配置sshfence隔离机制超时时间 -->
	<property>
		<name>dfs.ha.fencing.ssh.connect-timeout</name>
		<value>30000</value>
	</property>

填坑： 关于dfs.ha.fencing.methods属性值的配置，原来配置的是sshfence，后来在实验中，kill -9 namenode进程号，之后standby并不自动切换，而是一直尝试重连，参考以下连接之后做的修改。下面是一个解决方式。解决启动HA后kill掉Namenode进程但另一节点仍然是Standby状态_ZhouQiYoung的博客-CSDN博客继续踩坑先说一段题外话：配置高可用HDFS的时候 针对zookeeper配置hadoop的core-site文件的时候，一些资料是使用的是<property><name>ha.ZooKeeper.quorum</name><value>master:2181,slave:2181,slave2:2181</value></property>配置完成之后死活zookeeper启动不了，查看日志说找不到“ha.zookhttps://blog.csdn.net/ZhouQiYoung/article/details/112612699

 另一种方案：

使用 kill -9 模拟 JVM 崩溃。或者重新启动计算机电源或拔出其网络接口以模拟另一种故障。另一个 NameNode 应在几秒钟内自动变为活动状态。检测故障并触发故障转移所需的时间取决于 ha.zookeeper.session-timeout.ms 的配置，但默认值为 5 秒。
如果测试不成功，检查 zkfc 守护程序以及 NameNode 守护程序的日志 ，以便进一步诊断问题。如果错误信息如下 ：
提示未找到 fuser 程序，导致无法 进行 隔离 ， 所以可以通过如下命令来安装， Psmisc 软件包中包含了 fuser 程序（两个 NN 机器上都需要进行安装）

   


  yum install psmisc -y

修改mapred-site.xml

vim mapred-site.xml
<!-- 指定mr框架为yarn方式 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

修改yarn-site.xml

vim yarn-site.xml
<!-- 开启RM高可用 -->
<property>
    <name>yarn.resourcemanager.ha.enabled</name>
    <value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property>
    <name>yarn.resourcemanager.cluster-id</name>
    <value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property>
    <name>yarn.resourcemanager.ha.rm-ids</name>
    <value>rm1,rm2</value>
</property>
<!-- 分别指定RM的地址 -->
<property>
    <name>yarn.resourcemanager.hostname.rm1</name>
    <value>node1</value>
</property>
<property>
    <name>yarn.resourcemanager.hostname.rm2</name>
    <value>node2</value>
</property>
<!-- 指定zk集群地址 -->
<property>
    <name>yarn.resourcemanager.zk-address</name>
    <value>node1:2181,node2:2181,node3:2181</value>
</property>
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>

修改workers

vim workers
node1.btks.cn
node2.btks.cn
node3.btks.cn

安装包拷贝

scp -r hadoop-3.1.4 root@node2:$PWD
scp -r hadoop-3.1.4 root@node3:$PWD

3 HA集群启动

 启动zookeeper集群（分别在node1、node2、node3上启动zk）

# zookeeper集群启动
bin/zkServer.sh start
# 查看状态
bin/zkServer.sh status

手动启动journalnode（分别在在node1、node2、node3上执行）

hdfs --daemon start journalnode

 namenode初始化

 hdfs namenode -format

启动namenode进程

hdfs --daemon start namenode

第二台机子上元数据同步

hdfs namenode -bootstrapStandby
格式化zkfc：注意，在哪台机器上执行，哪台机器就将成为第一次的 Active NN 
hdfs zkfc -formatZK

启动hdfs集群

 start-dfs.sh

查看启动结果

 

4、高可用集群查看

 

 

天码村
关注
专栏目录
HADOOP HA安装
D_dd_d的博客
06-19 247
1
Hadoop之Ha高可用搭建教程_启动hadoop高可用集群
2401_84170623的博客
04-27 720
DataNode | 有 | 有 | 有 | 存储实际数据，参与数据块的读写操作 || NodeManager | 有 | 有 | 有 | 负责管理容器生命周期，与ResourceManager通信 |
Hadoop高可用集群HA的安装
m0_52940881的博客
12-07 652
我们依照之前规划的集群进行搭建。不明白可以去的集群架构中查看生成集群其他的虚拟机并进行相关准备_EEEurekaaa！的博客-CSDN博客这里采用的Hadoop版本是3.1.4，不要选择太新的版本安装包可以直接去官网下载首先要安装Hadoop先把安装包放入software文件夹中把该文件包解压到servers路径下 tar -xvzf hadoop-3.1.4.tar.gz -C ../servers/我们需要对这6个文件进行修改这个文件主要是规定服务器中jdk的位置以及hdf和yarn的操作用户代码如下：
Ha 高可用hadoop集群安装
ENCCDY的博客
11-14 989
2.7.3高可用hadoop集群安装
Hadoop HA安装(zookeeper)
yuandiyzy1987的博客
08-03 654
Hadoop-HA安装部署 1 集群规划 1.1 集群规划 1.2 所需安装包： jdk-8u172-linux-x64.tar.gz hadoop-2.6.0-cdh5.15.0.tar.gz zookeeper-3.4.5-cdh5.15.0.tar.gz 2 环境准备 以下操作除2.6外均需要对所有的节点进行操作 2.1 配置静态IP ...
手动安装Hadoop3.3.1+ Yarn HA集群
qq_41878423的博客
10-24 3484
Hadoop集群搭建手动安装Hadoop3.3.1+ Yarn HA集群服务主机ip规划准备工作启动zookeeperHadoop配置文件启动与维护高可用 NameNode + Yarn 分布式集群1. 启动与格式化 ZooKeeper 集群2. 启动 JournalNode 集群3. 格式化并启动主节点 NameNode 服务4. NameNode 主、备节点同步元数据5. 启动备用节点的 NameNode 服务6. 启动 ZooKeeper FailoverController（zkfc）服务7. 启动
Hadoop集群搭建详细简明教程
05-16
本教程“Hadoop集群搭建详细简明教程”将带你逐步走进Hadoop的世界，了解并掌握如何构建一个高效稳定的Hadoop集群。 Hadoop是由Apache基金会开发的一个开源项目，其核心包括两个主要组件：Hadoop Distributed File ...
2024年大数据最新Hadoop之Ha高可用搭建教程_启动hadoop高可用集群
最新发布
2401_84181536的博客
05-02 775
服务的逻辑名称,使用mycluster替换master:9000作为逻辑名称。通过SSH连接到Active NameNode并终止进程。存放namenode、datanode数据的根路径。列出运行 ZooKeeper 服务的主机端口对。存放journalnode数据的地址。两个namenode的rpc通信地址。hdfs分布式文件系统名字/地址。两个namenode的名称。切换namenode代理类。启动自动故障转移机制。
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase）
03-30
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase） 一、Hadoop HA高可用集群概述 在大数据处理中，高可用集群是非常重要的，Hadoop HA高可用集群可以提供高可靠性和高可用性，确保数据处理不中断。该集群由...
hadoop3.x--搭建hadoop高可用集群（HA模式）
lzq00277的博客
04-30 2616
HDFS高可用集群（HA模式）1、集群规划2、安装前配置3、安装jdk与hadoop4、克隆虚拟机与互信配置5、搭建zookeeper集群6、初始化启动hdfs集群 1、集群规划 hostname ip NN JN DN ZKFC ZK hadoopHA01 192.168.10.201 yes yes yes hadoopHA02 192.168.10.202 yes yes yes yes yes hadoopHA03 192.168.10.203 yes yes yes
自己总结的hadoop HA安装流程
02-28
自己总结的hadoop HA安装流程。公司是按这个流程安装的。没问题
入门级，hadoop ha 安装
weixin_44147632的博客
08-24 142
在搭建普通的hadoop集群的基础上 在hadoop260目录下新建data文件夹，在data文件夹中新建journalnode pids tmp 三个文件夹 [root@vwmaster hadoop]# cd /opt/bigdata/hadoop/hadoop260/ [root@vwmaster hadoop]# mkdir data [root@vwmaster hadoop]# cd data/ [root@vwmaster hadoop]# mkdir journalnode pids tmp
Hadoop安装（HA架构）
Monkey's blog
03-31 2602
Hadoop高可用架构安装
大数据生态（七）Hadoop集群HA安装
长臂人猿的博客
02-03 344
文章目录1 解压安装到e3base下面2 改名实现截图3 创建$E3_INFO_HOME/hadoop目录4 用户环境变量配置5 修改配置文件5.1修改hadoop-env.sh文件5.2修改core-site.xml文件5.3修改hdfs-site.xml文件5.3.1修改对应的管理节点主机名5.3.2 nn和jn路径5.3.3 存放硬盘数据目录5.3.4 namenode节点6 slaves文件配置7 机架感知配置 1 解压安装到e3base下面 ​ 前面安装过到默认文件目录下，现在进行移动操作： mv
Hadoop HA集群搭建
lyee_feng的博客
12-17 282
一、集群服务器准备工作        1.修改主机名    vi /etc/sysconfig/network；                       2.修改sudo权限  vi /etc/sudoers          找到root           ALL=(ALL)         ALL这行，然后在下面添加一行：hadoop         ALL=(ALL)  
Hadoop2.7.2分布式集群HA模式安装
邢宁
01-07 889
服务节点分布 node1 NameNode、DFSZKFailoverController(ZKFC)、ResourceManager、JournalNode、ZooKeeper、QuorumPeerMain node2 NameNode、DFSZKFailoverController(ZKFC)、ResourceManager、JournalNode、ZooKeeper、QuorumPeerMain node3 DataNode、NodeManager、JournalNode、QuorumPeerMa
Hadoop2.0 HA安装完整版——Hadoop2.7.3
@羲凡—只为更好的活着
01-15 1679
@羲凡——只为了更好的活着 Hadoop2.0 HA安装完整版——Hadoop2.7.3 Hadoop从2008年发布，到现在已经11个年头了。Hadoop安装是任何一个大数据开发或运维人员都必须掌握的。本文尽可能详细的介绍hadoop 高可用的安装并对参数做一定的介绍(用 deplab 用户安装)。hadoop的安装都非常类似，无论是hadoop2.0版本还是hadoop3.0版本。此文中选择H...
Hadoop 3.1.3的安装部署(HA)
Knight
10-17 1723
目录HDFS HA搭建ResouceManager HA搭建启动集群 HDFS HA搭建 （1）上传压缩包到software文件夹，并进行解压 [root@hadoop202 servers]# cd /export/software/ [root@hadoop202 software]# tar -zxvf hadoop-3.1.3.tar.gz -C /export/servers/ （2）分发export目录下hadoop文件夹 [root@hadoop202 software]# cd /expo
hadoop HA的安装配置
Pure_boy的博客
08-29 233
前提 已经安装了hadoop分布式集群。 修改配置文件 /etc/hadoop/hdfs-site.xml 增加以下的配置内容： <!--配置集群的id--> <property> <name>dfs.nameservices</name> <value>mycluster</value> </property> <!--配置NameNode的标识符--> <property> &lt
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

天码村

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值