Hadoop HA高可用集群搭建（2.7.2）

最新推荐文章于 2024-04-13 16:59:08 发布
最新推荐文章于 2024-04-13 16:59:08 发布
阅读量381 收藏
点赞数
分类专栏： hdfs 文章标签： hadoop hdfs

1.集群规划：

 主机名        IP                安装的软件                            执行的进程
drguo1  192.168.80.149 jdk、hadoop                         NameNode、DFSZKFailoverController(zkfc)、ResourceManager
drguo2 192.168.80.150  jdk、hadoop                         NameNode、DFSZKFailoverController(zkfc)、ResourceManager
drguo3  192.168.80.151  jdk、hadoop、zookeeper     DataNode、NodeManager、JournalNode、QuorumPeerMain
drguo4  192.168.80.152  jdk、hadoop、zookeeper     DataNode、NodeManager、JournalNode、QuorumPeerMain

drguo5 192.168.80.153  jdk、hadoop、zookeeper     DataNode、NodeManager、JournalNode、QuorumPeerMain

排的好好的，显示出来就乱了！！

！

2.前期准备：

准备五台机器，改动静态IP、主机名、主机名与IP的映射。关闭防火墙。安装JDK并配置环境变量（不会请看这http://blog.csdn.net/dr_guo/article/details/50886667），创建用户：用户组，SSH免password登录SSH免password登录（报错请看这http://blog.csdn.net/dr_guo/article/details/50967442）。

 

注意：要把127.0.1.1那一行凝视掉。要不然会出现jps显示有datanode，但网页显示live nodes为0。

凝视之后就正常了。好像有人没凝视也正常，我也不知道为什么0.0

3.搭建zookeeper集群（drguo3/drguo4/drguo5）

见：ZooKeeper全然分布式集群搭建

4.正式開始搭建Hadoop HA集群

去官网下最新的Hadoop（http://apache.opencas.org/hadoop/common/stable/），眼下最新的是2.7.2，下载完之后把它放到/opt/Hadoop下

[plain] view plain copy

  1. guo@guo:~/下载$ mv ./hadoop-2.7.2.tar.gz /opt/Hadoop/  
  2. mv: 无法创建普通文件"/opt/Hadoop/hadoop-2.7.2.tar.gz": 权限不够  
  3. guo@guo:~/下载$ su root   
  4. password：   
  5. root@guo:/home/guo/下载# mv ./hadoop-2.7.2.tar.gz /opt/Hadoop/  

解压

[plain] view plain copy

  1. guo@guo:/opt/Hadoop$ sudo tar -zxf hadoop-2.7.2.tar.gz   
  2. [sudo] guo 的password：  

解压jdk的时候我用的是tar -zxvf。当中的v呢就是看一下解压的过程。不想看你能够不写。

改动opt文件夹全部者(用户：用户组)直接把opt文件夹的全部者/组换成了guo。详细情况在ZooKeeper全然分布式集群搭建说过。

 

[plain] view plain copy

  1. root@guo:/opt/Hadoop# chown -R guo:guo /opt  

 

环境变量设置

[plain] view plain copy

  1. guo@guo:/opt/Hadoop$ sudo gedit /etc/profile  

在最后加上（这样设置在运行bin/sbin文件夹下的脚本时就不用进入该文件夹用了）

[plain] view plain copy

  1. #hadoop  
  2. export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2  
  3. export PATH=$PATH:$HADOOP_HOME/sbin  
  4. export PATH=$PATH:$HADOOP_HOME/bin  

然后更新配置

[plain] view plain copy

  1. guo@guo:/opt/Hadoop$ source /etc/profile  

改动/opt/Hadoop/hadoop-2.7.2/etc/hadoop下的hadoop-env.sh

[plain] view plain copy

  1. guo@guo:/opt/Hadoop$ cd hadoop-2.7.2  
  2. guo@guo:/opt/Hadoop/hadoop-2.7.2$ cd etc/hadoop/  
  3. guo@guo:/opt/Hadoop/hadoop-2.7.2/etc/hadoop$ sudo gedit ./hadoop-env.sh  

进入文件后

[plain] view plain copy

  1. export JAVA_HOME=${JAVA_HOME}#将这个改成JDK路径，例如以下  
  2. export JAVA_HOME=/opt/Java/jdk1.8.0_73  

然后更新文件配置

[plain] view plain copy

  1. guo@guo:/opt/Hadoop/hadoop-2.7.2/etc/hadoop$ source ./hadoop-env.sh 

前面配置和单机模式一样。我就直接复制了。

 

 

注意：汉语凝视是给你看的。复制粘贴的时候都删了。！！

改动core-site.xml

<configuration>
<!-- 指定hdfs的nameservice为ns1 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://ns1/</value>
</property>
<!-- 指定hadoop暂时文件夹 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/Hadoop/hadoop-2.7.2/tmp</value>
</property>
<!-- 指定zookeeper地址 -->
<property>
<name>ha.zookeeper.quorum</name>
<value>drguo3:2181,drguo4:2181,drguo5:2181</value>
</property>
</configuration>

改动hdfs-site.xml

<configuration>
	<!--指定hdfs的nameservice为ns1，须要和core-site.xml中的保持一致 -->
	<property>
		<name>dfs.nameservices</name>
		<value>ns1</value>
	</property>
	<!-- ns1以下有两个NameNode，各自是nn1，nn2 -->
	<property>
		<name>dfs.ha.namenodes.ns1</name>
		<value>nn1,nn2</value>
	</property>
	<!-- nn1的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.ns1.nn1</name>
		<value>drguo1:9000</value>
	</property>
	<!-- nn1的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.ns1.nn1</name>
		<value>drguo1:50070</value>
	</property>
	<!-- nn2的RPC通信地址 -->
	<property>
		<name>dfs.namenode.rpc-address.ns1.nn2</name>
		<value>drguo2:9000</value>
	</property>
	<!-- nn2的http通信地址 -->
	<property>
		<name>dfs.namenode.http-address.ns1.nn2</name>
		<value>drguo2:50070</value>
	</property>
	<!-- 指定NameNode的元数据在JournalNode上的存放位置 -->
	<property>
		<name>dfs.namenode.shared.edits.dir</name>
		<value>qjournal://drguo3:8485;drguo4:8485;drguo5:8485/ns1</value>
	</property>
	<!-- 指定JournalNode在本地磁盘存放数据的位置 -->
	<property>
		<name>dfs.journalnode.edits.dir</name>
		<value>/opt/Hadoop/hadoop-2.7.2/journaldata</value>
	</property>
	<!-- 开启NameNode失败自己主动切换 -->
	<property>
		<name>dfs.ha.automatic-failover.enabled</name>
		<value>true</value>
	</property>
	<!-- 配置失败自己主动切换实现方式 -->
	<property>
		<name>dfs.client.failover.proxy.provider.ns1</name>
		<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
	</property>
	<!-- 配置隔离机制方法。多个机制用换行切割，即每一个机制暂用一行-->
	<property>
		<name>dfs.ha.fencing.methods</name>
		<value>
			sshfence
			shell(/bin/true)
		</value>
	</property>
	<!-- 使用sshfence隔离机制时须要ssh免登陆 -->
	<property>
		<name>dfs.ha.fencing.ssh.private-key-files</name>
		<value>/home/guo/.ssh/id_rsa</value>
	</property>
	<!-- 配置sshfence隔离机制超时时间 -->
	<property>
		<name>dfs.ha.fencing.ssh.connect-timeout</name>
		<value>30000</value>
	</property>
</configuration>

先将mapred-site.xml.template改名为mapred-site.xml然后改动mapred-site.xml

<configuration>
	<!-- 指定mr框架为yarn方式 -->
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
</configuration>

改动yarn-site.xml

<configuration>
	<!-- 开启RM高可用 -->
	<property>
	   <name>yarn.resourcemanager.ha.enabled</name>
	   <value>true</value>
	</property>
	<!-- 指定RM的cluster id -->
	<property>
	   <name>yarn.resourcemanager.cluster-id</name>
	   <value>yrc</value>
	</property>
	<!-- 指定RM的名字 -->
	<property>
	   <name>yarn.resourcemanager.ha.rm-ids</name>
	   <value>rm1,rm2</value>
	</property>
	<!-- 分别指定RM的地址 -->
	<property>
	   <name>yarn.resourcemanager.hostname.rm1</name>
	   <value>drguo1</value>
	</property>
	<property>
	   <name>yarn.resourcemanager.hostname.rm2</name>
	   <value>drguo2</value>
	</property>
	<!-- 指定zk集群地址 -->
	<property>
	   <name>yarn.resourcemanager.zk-address</name>
	   <value>drguo3:2181,drguo4:2181,drguo5:2181</value>
	</property>
	<property>
	   <name>yarn.nodemanager.aux-services</name>
	   <value>mapreduce_shuffle</value>
	</property>
</configuration>

改动slaves

drguo3
drguo4
drguo5

把Hadoop整个文件夹复制到drguo2/3/4/5，拷之前把share下doc删了（文档不用拷）。这样会快点。
5.启动zookeeper集群（分别在drguo3、drguo4、drguo5上启动zookeeper）

guo@drguo3:~$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper-3.4.8/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
guo@drguo3:~$ jps
2005 Jps
1994 QuorumPeerMain
guo@drguo3:~$ ssh drguo4
Welcome to Ubuntu 15.10 (GNU/Linux 4.2.0-16-generic x86_64)

 * Documentation:  https://help.ubuntu.com/

Last login: Fri Mar 25 14:04:43 2016 from 192.168.80.151
guo@drguo4:~$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper-3.4.8/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
guo@drguo4:~$ jps
1977 Jps
1966 QuorumPeerMain
guo@drguo4:~$ exit
注销
Connection to drguo4 closed.
guo@drguo3:~$ ssh drguo5
Welcome to Ubuntu 15.10 (GNU/Linux 4.2.0-16-generic x86_64)

 * Documentation:  https://help.ubuntu.com/

Last login: Fri Mar 25 14:04:56 2016 from 192.168.80.151
guo@drguo5:~$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper-3.4.8/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
guo@drguo5:~$ jps
2041 Jps
2030 QuorumPeerMain
guo@drguo5:~$ exit
注销
Connection to drguo5 closed.
guo@drguo3:~$ zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper-3.4.8/bin/../conf/zoo.cfg
Mode: leader

6.启动journalnode（分别在drguo3、drguo4、drguo5上启动journalnode）注意仅仅有第一次须要这么启动，之后启动hdfs会包括journalnode。

guo@drguo3:~$ hadoop-daemon.sh start journalnode
starting journalnode, logging to /opt/Hadoop/hadoop-2.7.2/logs/hadoop-guo-journalnode-drguo3.out
guo@drguo3:~$ jps
2052 Jps
2020 JournalNode
1963 QuorumPeerMain
guo@drguo3:~$ ssh drguo4
Welcome to Ubuntu 15.10 (GNU/Linux 4.2.0-16-generic x86_64)

 * Documentation:  https://help.ubuntu.com/

Last login: Fri Mar 25 00:09:08 2016 from 192.168.80.149
guo@drguo4:~$ hadoop-daemon.sh start journalnode
starting journalnode, logging to /opt/Hadoop/hadoop-2.7.2/logs/hadoop-guo-journalnode-drguo4.out
guo@drguo4:~$ jps
2103 Jps
2071 JournalNode
1928 QuorumPeerMain
guo@drguo4:~$ exit
注销
Connection to drguo4 closed.
guo@drguo3:~$ ssh drguo5
Welcome to Ubuntu 15.10 (GNU/Linux 4.2.0-16-generic x86_64)

 * Documentation:  https://help.ubuntu.com/

Last login: Thu Mar 24 23:52:17 2016 from 192.168.80.152
guo@drguo5:~$ hadoop-daemon.sh start journalnode
starting journalnode, logging to /opt/Hadoop/hadoop-2.7.2/logs/hadoop-guo-journalnode-drguo5.out
guo@drguo5:~$ jps
2276 JournalNode
2308 Jps
1959 QuorumPeerMain
guo@drguo5:~$ exit
注销
Connection to drguo5 closed.

在drguo4/5启动时发现了问题，没有journalnode，查看日志发现是由于汉语凝视造成的，drguo4/5全删了问题解决。drguo4/5的拼音输入法也不能用，我非常蛋疼。。

 

镜像都是复制的。咋还变异了呢。
7.格式化HDFS(在drguo1上运行)

guo@drguo1:/opt$ hdfs namenode -format

这回又出问题了，还是汉语凝视闹得，drguo1/2/3也全删了，问题解决。

 

 

注意：格式化之后须要把tmp文件夹拷给drguo2（不然drguo2的namenode起不来）

guo@drguo1:/opt/Hadoop/hadoop-2.7.2$ scp -r tmp/ drguo2:/opt/Hadoop/hadoop-2.7.2/

8.格式化ZKFC(在drguo1上运行)

guo@drguo1:/opt$ hdfs zkfc -formatZK

9.启动HDFS(在drguo1上运行)

guo@drguo1:/opt$ start-dfs.sh

10.启动YARN(在drguo1上运行)

guo@drguo1:/opt$ start-yarn.sh

PS:
1.drguo2的resourcemanager须要手动单独启动：

yarn-daemon.sh start resourcemanager

2.namenode、datanode也能够单独启动：

hadoop-daemon.sh start namenode

hadoop-daemon.sh start datanode
3.NN 由standby转化成active
hdfs haadmin -transitionToActive nn1 --forcemanual

大功告成！！

 

！


不要回头看
关注
专栏目录
HadoopHA(高可用集群)2.7.2 原理及搭建
weixin_46122692的博客
10-16 345
一、介绍： 1、所谓HA（High Available），即高可用（7*24小时不中断服务） 2、实现高可用的关键是消除单点故障，即HDFS的nameNode和YARN的resourceManager，所以HA机制就是HDFS的HA和YARN的HA。 由于一个HDFS集群由一个NameNode节点和多个DataNode节点组成，一旦NameNode节点宕机，那么HDFS将不能进行文件的上传与下载。 由于一个Yarn集群由一个ResourceManager节点和多个NodeManager节点组成，一旦
hadoop高可用集群规划
weixin_30755393的博客
11-19 112
Hadoop集群部署前置规划： 利用上海汉水信息技术服务有限公司提供的的HanWate_BigData以及HanWate_HDP2.6.1.0镜像作为底层实现。 服务器共有九台，每台服务器有3G内存，1个CPU内核，2个20G硬盘，网络状态为桥接模式。 网址和主机名对应如下： 192.168.1.201 kmaster1192.168.1.202 kmaster2192.168...
Hadoop2.7高可用集群搭建步骤
weixin_41070431的博客
06-11 574
集群节点分配Park01 Zookeeper  NameNode (active)Resourcemanager (active) Park02Zookeeper NameNode (standby)  Park03Zookeeper ResourceManager (standby) Park04DataNode NodeManager JournalNode Park05DataNodeNod...
基于zookeeper搭建Hadoop的HA高可用集群
qq_43634424的博客
01-10 1506
目录 一.准备工作 （一）.先配置一台机器作为模板，后面用于克隆 （二）.配置其他两台机器基础配置 （三）.ssh免密操作 二.配置集群 （一）.zookeeper集群配置(配置成功后需要拍快照) （二）.配置hadoop集群(配置完毕后拍快照) 一.准备工作 (这里用的这几个版本 apache-zookeeper-3.7.0-bin.tar.gz hadoop-2.7.2.tar.gz jdk-8u144-linux-x64.tar.gz ） （一）.先配置一...
hadoop2.7.2HA集群安装
11-02
本文档将详细介绍如何搭建一个Hadoop 2.7.2版本的高可用（High Availability，简称HA）集群。此集群将包含五台服务器，分别命名为cancer01至cancer05，其中两台作为NameNode节点（活跃与备用），一台作为JournalNode...
hadoop HA高可用
weixin_46738406的博客
04-13 250
一、前言 所谓HadoopHA高可用集群就是要消灭单点故障问题，实现7 * 24小时无间断提供服务。 当然想到搭建高可用前提示会搭建hadoop的分布式，最起码也要熟练搭建伪分布式。 想要实现自动故障转移，需要借助Zookeeper来实现管理和检查节点的健康状态。也就是需要会搭建Zookeeper集群，本次搭建我就不在演示搭建zookeeper集群了，如果还不熟悉参考我之前的博客。https://blog.csdn.net/qq_44719527/article/details/104671380 如果伪分
hadoop2.7.3 HA高可用集群安装
weixin_33836223的博客
03-09 222
集群规划主机名ip安装的软件进程hadoop01192.168.1.101jdk、hadoopNN、DFSZKFailoverControllerhadoop02192.168.1.102jdk、hadoopNN、DFSZKFailoverControllerhadoop03192.168.1.103jdk、hadoopRMhadoop04192.168.1.104jdk、h...
Hadoop高可用集群搭建
qq_47947471的博客
09-29 239
HDFS-HA集群配置 1.HDFS-HA集群配置 (1)HDFS 高可用集群规划，请保证 Hadoop 完全分布式和 ZooKeeper 完全分布式环境已经安装完成 hadoop1 hadoop2 JournalNode JournalNode (2)hadoop1中配置core-site.xml [root@hadoop1 hadoop]# vi core-site.xml 修改为下: <configuration> <!-- 把两个 NameNode的地址组装成一个集群 m
Hadoop高可用模式 集群搭建与管理之集群规划（二)
路西法的博客
08-29 468
待续写
hadoop2.7 HA 高可用配置
weixin_34237596的博客
11-19 230
为什么80%的码农都做不了架构师？>>> ...
hadoop2.7.5 集群搭建（高可用）
zhaishujie的博客
08-22 2441
附录hadoop所有版本下载地址：https://archive.apache.org/dist/hadoop/common/ 由于需要用到hadoop的服务器配置特写出来分享此文档。 服务器： hostname ip 系统 node1 192.168.3.21 centos7.2 nod...
大数据开发学习——Hadoop高可用集群搭建
weixin_48169169的博客
06-29 4299
Hadoop高可用集群搭建。这个集群搭建仅用于学习，并非生产环境。项目背景为新闻日志分析，是学校实训课项目所使用环境，记录一下集群搭建的过程。
Hadoop分布式高可用HA集群搭建笔记（含Hive之构建），java类加载过程面试题
m0_63174618的博客
11-04 214
[]( )1.2.4 修改主机名 修改三台机器的/etc/hosts文件 加入如下内容。为了等下能在物理主机上访问HDFS web管理工具。还需要在本地进行该映射。不过在Windows下，要修改的是C:\Windows\System32\drivers\etc\hosts 这个文件一般来讲是不能直接编辑的，需要修改权限。 右键属性->安全->编辑 添加 把登录用户名写进去 添加写入权限 []( )1.2.5 脚本准备 这是一个批处理脚本，转载自网友“子墨良言” 通过它可以方便地在一整
【亲测】Hadoop 高可用集群搭建 与 开发环境部署
最新发布
2401_84093837的博客
04-13 1678
点击这里即可获取，包括答案解析。---------";esac命令点击这里即可获取，包括答案解析。[外链图片转存中…(img-fmTaD2Dr-1712998685135)]
如何搭建Hadoop高可用集群
Alcaibur的博客
02-16 412
如何搭建Hadoop集群
Hadoop之Ha高可用搭建教程
weixin_74865657的博客
03-18 1875
随着大数据技术的不断发展，Hadoop作为开源的大数据处理框架，已经广泛应用于各种场景中。然而，在大型生产环境中，Hadoop集群的稳定性和可用性显得尤为重要。为了保障Hadoop集群的高可用性（HA），我们需要采用一系列的技术和策略。本文将重点介绍Hadoop集群的HA高可用方案。Hadoop集群的HA高可用主要指的是在集群中的关键组件出现故障时，能够自动切换到其他节点继续提供服务，从而确保整个集群的稳定运行。Hadoop集群的HA高可用方案是保障集群稳定性和可用性的重要手段。
配置Hadoop HA高可用集群：yarn-site.xml详解
"配置Hadoop HA高可用集群的yarn-site.xml文件，重点关注master2节点" 在Hadoop集群中，高可用性（HA）是非常关键的特性，它确保了即使在主节点故障时，服务也能继续运行，从而避免数据丢失和业务中断。本配置主要...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值