hadoop高可用集群环境搭建(ntp的时间同步配置+有zookeeper安装包，完整的高可用配置文件步骤)

最新推荐文章于 2023-11-14 14:40:10 发布
最新推荐文章于 2023-11-14 14:40:10 发布
阅读量1k 收藏 7
点赞数 4
分类专栏： hadoop 文章标签： hadoop 大数据 linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43434273/article/details/108474519
版权

没有完成hadoop 3台虚拟机集群搭建的可以先看以下两篇博客
hadoop学习——伪分布式环境搭建（有安装包 非常详细）
hadoop学习——完全分布式集群环境搭建(有完整的文件配置步骤)
友情提醒：搭建好HA环境后 不要强制关机 否则下次就启动进程不正常了
先使用：

stop-all.sh

再关机！！！

hadoop高可用集群环境搭建

1、ntp时间同步设置

当搭建完成hadoop的集群搭建之后，我们先来做时区同步
在三台虚拟机上都使用以下命令安装 ntp

yum -y install ntp

在这里插入图片描述
然后在三台机器上都用以下命令设置ntp开机自启

chkconfig ntpd on

下面修改主机的ntp.conf文件

vi /etc/ntp.conf

在这里插入图片描述
如图取消注释 restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap
如图注释掉四行 server 然后在下面添加：

server 127.127.1.0
fudge 127.127.1.0 stratum 10

另外两台的ntp.conf 的修改是一样的 如下操作
在这里插入图片描述
如图取消注释 restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap
同样注释掉四行 server 然后在下面添加：

server 127.127.1.0
fudge 127.127.1.0 stratum 10
server hadoop001
restrict hadoop001 nomodify notrap noquery

其中hadoop001是你的主机名或者IP地址

启动 ntp 服务：

service ntpd start

三台虚拟机分别输入以下命令查看时间同步结果：

ntpstat

在这里插入图片描述
三台虚拟机执行完命令后都出现上图 synchronised to NTP server 即为时间同步成功

2、zokeeper安装配置

先解压zookeeper 安装包可下载：
链接: https://pan.baidu.com/s/1L71MOd4niUEl3LAcksxZdg
提取码: 2ige
解压到/opt 方便查找，先在一台机器解压，后面用scp命令传输到另外两台机器上面

tar -xvf zookeeper-3.4.6.tar.gz -C /opt

解压完成之后去把文件夹改名 方便后续使用

cd /opt
mv zookeeper-3.4.6/ zkpr

接下来配置环境变量

vi /etc/profile

export ZK_HOME=/opt/zkpr
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$ZK_HOME/bin:$PATH

退出保存，别忘了source

source /etc/profile

cd zkpr/conf/

将zoo_sample.cfg 改名 zoo.cfg 方便使用
在这里插入图片描述

 mv zoo_sample.cfg zoo.cfg

在这里插入图片描述
到zkpr下面创建zkdata和zklogs 等会配置 zoo.cfg 会用到

cd /opt/zkpr
mkdir zkdata
mkdir zklogs

修改 zoo.cfg

vi zoo.cfg

找到原有的 dataDir 那一行 进行修改并添加 如下：
在这里插入图片描述
在末尾添加：
在这里插入图片描述

maxClientCnxns=0
initLimit=50
dataDir=/opt/zkpr/zkdata
dataLogDir=/opt/zkpr/zklogs

server.1=hadoop001:2888:3888
server.2=hadoop002:2888:3888
server.3=hadoop003:2888:3888

其中hadoop001 / 002 / 003 是你的三台机器名

下面把包和修改过的文件都发给另外两台机器

scp /etc/profile  root@hadoop002:/etc/profile
scp /etc/profile  root@hadoop003:/etc/profile
scp -r /opt/zkpr/ root@hadoop002:/opt
scp -r /opt/zkpr/ root@hadoop003:/opt

发送完成之后，千万别忘了另外两台虚拟机 也执行 source /etc/profile ，因为环境变量也发过去了 !!!
三台虚拟机都直接 vi 创建并编辑 zkdata/myid 文件

vi zkdata/myid

第一台写入: 1

第二台写入: 2

第三台写入: 3
分别退出保存
下面来启动 zookeeper
三台分别输入以下命令进行启动

 ./bin/zkServer.sh start

同时 jps 看一下 QuorumPeerMain 是否启动，如下图即为启动成功
在这里插入图片描述
再查看一下主从关系输入./bin/zkServer.sh status
其中主节点一定为 follower ，另外两台随机产生一个 leader
在这里插入图片描述

3、hadoop相关文件配置

cd /opt/hadoop/etc/hadoop

修改core-site.xml

vi core-site.xml

这里配置name集群的名称 这里取名称为 ns
zookeeper 2181地址
这里的hadoop安装路径是在 /opt 下 hadoop001:2181,hadoop002:2181,hadoop003:2181中的
hadoop001 /002 / 003 是三台虚拟机的主机名 其余可以不变
完整配置文件如下：

<configuration>
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://ns</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/hadoop/tmp</value>
  </property>
<!-- 指定zookeeper地址 -->
  <property>
    <name>ha.zookeeper.quorum</name>
    <value>hadoop001:2181,hadoop002:2181,hadoop003:2181</value>
  </property>
  <property>
    <name>hadoop.proxyuser.root.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.root.groups</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.native.lib</name>
    <value>false</value>
    <description>Should native hadoop libraries, if present, be used.
    </description>
  </property>
  </configuration>

修改hdfs.site.xml

vi hdfs-site.xml

这里主要配置
nameservices集群下面的各个nameservice服务对应的映射
rpc-address 的地址9000
http-address的地址50070
journalnode的共享地址（各个datanode）
qjournal://datanode:8485;列表/集群名
出错处理，切换方式及隔离机制的设置
完整配置文件如下：

<configuration>
<!--节点数，ha中可不配置-->
  <property>
    <name>dfs.replication</name>
    <value>3</value>
  </property>
<!--指定名称服务，ns要与core-site.xml中的ns一致-->
  <property>
    <name>dfs.nameservices</name>
    <value>ns</value>
  </property>
<!--指定名称服务下的namenode节点-->
  <property>
    <name>dfs.ha.namenodes.ns</name>
    <value>hadoop001,hadoop002</value>
  </property>
<!--rpc地址，9000端口-->
  <property>
    <name>dfs.namenode.rpc-address.ns.hadoop001</name>
    <value>hadoop001:9000</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.ns.hadoop002</name>
    <value>hadoop002:9000</value>
  </property>
<!--rpc地址，9000端口-->
  <property>
    <name>dfs.namenode.rpc-address.ns.hadoop001</name>
    <value>hadoop001:9000</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.ns.hadoop002</name>
    <value>hadoop002:9000</value>
  </property>
<!--http地址，50070端口,即页面地址-->
  <property>
    <name>dfs.namenode.http-address.ns.hadoop001</name>
    <value>hadoop001:50070</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.ns.hadoop002</name>
    <value>hadoop002:50070</value>
  </property>
<!--namenode在journalnode(datanode)上存放数据的端口8485-->
  <property>
    <name>dfs.namenode.shared.edits.dir</name>
    <value>qjournal://hadoop001:8485;hadoop002:8485;hadoop003:8485/ns</value>
  </property>
<!-- 开启NameNode失败自动切换 -->
  <property>
    <name>dfs.ha.automatic-failover.enabled</name>
    <value>true</value>
  </property>
<!-- 配置失败自动切换实现方式 -->
  <property>
    <name>dfs.client.failover.proxy.provider.ns</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
<!--设置隔离机制，多个机制换行分割，每个机制占用一行 -->
  <property>
    <name>dfs.ha.fencing.methods</name>
    <value>sshfence
    shell(/bin/true)
    </value>
  </property>
<!-- 配置sshfence隔离机制超时时间 -->
  <property>
    <name>dfs.ha.fencing.ssh.connect-timeout</name>
    <value>30000</value>
  </property>
  <property>
    <name>dfs.webhdfs.enabled</name>
    <value>true</value>
  </property>
</configuration>

修改yarn-site.xml

vi yarn-site.xml

这里主要配置
允许ha高可用
resourcemanager集群配置
rm-ids:rm1,rm2
rm1:nm1 及端口配置8088
rm2:nm2 及端口配置8088
zookeeper配置
完整配置文件如下：

<configuration>
<!--HA配置-->
<!--开启HA-->
   <property>
     <name>yarn.resourcemanager.ha.enabled</name>
     <value>true</value>
   </property>
<!--指定resourcemanager(rm)集群id-->
   <property>
     <name>yarn.resourcemanager.cluster-id</name>
     <value>cluster_id</value>
   </property>
<!--resourcemanager(rm)集群的名称服务-->
   <property>
     <name>yarn.resourcemanager.ha.rm-ids</name>
     <value>rm1,rm2</value>
   </property>
<!--指定rm映射关系-->
   <property>
     <name>yarn.resourcemanager.hostname.rm1</name>
     <value>hadoop001</value>
   </property>
   <property>
     <name>yarn.resourcemanager.hostname.rm2</name>
     <value>hadoop002</value>
   </property>
   <property>
     <name>yarn.resourcemanager.webapp.address.rm1</name>
     <value>hadoop001:8088</value>
   </property>
   <property>
 <name>yarn.resourcemanager.webapp.address.rm2</name>
     <value>hadoop002:8088</value>
   </property>
<!--配置zookeeper集群-->
   <property>
     <name>yarn.resourcemanager.zk-address</name>
     <value>hadoop001:2181,hadoop002:2181,hadoop003:2181</value>
   </property>
<!-- Site specific YARN configuration properties -->
   <property>
     <name>yarn.nodemanager.aux-services</name>
     <value>mapreduce_shuffle</value>
   </property>
   <property>
     <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
     <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>
<!-- 日志聚集功能使用 -->
  <property>
    <name>yarn.log-aggregation-enable</name>
    <value>true</value>
  </property>
<!-- 日志保留时间设置7天 -->
  <property>
    <name>yarn.log-aggretion.retain-seconds</name>
    <value>604800</value>
  </property>
</configuration>

修改mapred-site.xml

vi mapred-site.xml

以下为完整配置文件：
其中IP地址根据自己IP改一下
jobhistory我都选用了第二台虚拟机来承担

<configuration>
 <property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
  </property>
 <property>
     <name>mapreduce.jobhistory.address</name>
     <value>192.168.116.41:10020</value>
 </property>
 <property>
     <name>mapreduce.jobhistory.webapp.address</name>
     <value>192.168.116.41:19888</value>
 </property>
</configuration>

4、启动hadoop集群

再启动之前一定要保证
三台集群一致
确保集群处于关闭状态
zookeeper要启动 zkServer.sh start
三台机器一起删除tmp文件夹

rm -rf tmp/

在这里插入图片描述
在每台机器上都启动 journalnode

hadoop-daemon.sh start journalnode

选择主节点重新format

hadoop namenode -format

很重要：把主节点新生成的tmp文件夹复制到备用节点(hadoop002)

scp -r tmp hadoop002:$PWD

启动整个集群 start-all.sh
输入 jps 查看服务启动情况
主节点：
在这里插入图片描述
副节点1：
在这里插入图片描述
副节点2：
在这里插入图片描述
启动 zkfc
首先我们要明确ZKFC 是什么，有什么作用：
zkfc是什么？ ZooKeeperFailoverController
它是什么？是Hadoop中通过ZK实现FC功能的一个实用工具。
主要作用：作为一个ZK集群的客户端，用来监控NN的状态信息。
谁会用它？每个运行NN的节点必须要运行一个zkfc
启动之前要先在两个备用节点上启动备用 resourcemanager

yarn-daemon.sh start resourcemanager

在主节点格式化zkfc:

hdfs zkfc  -formatZK

主备节点都要启动zkfc:

hadoop-daemon.sh start zkfc

一般正常情况是这样
在这里插入图片描述

最后启动历史服务：
我这里是第一台和第二台承担了历史服务

mr-jobhistory-daemon.sh start historyserver

jps三台查看服务开启情况
最终的服务启动情况如下
主节点(hadoop001)：
在这里插入图片描述
备用节点1(hadoop002)：
在这里插入图片描述
节点2(hadoop003)：
在这里插入图片描述

5、hadoop HA 模式测试

1、打开50070端口查看namenode 状态
hadoop001: active
在这里插入图片描述
hadoop002: standby
在这里插入图片描述
2、kill掉hadoop001的namenode进程号，看hadoop002的namenode是否能够由standby转为active状态

kill -9 9545

如图所示即为测试成功！
在这里插入图片描述
再次启动hadoop001的namenode

hadoop-daemon.sh start namenode

在这里插入图片描述
通过50070端口发现namenode变为standby状态
在这里插入图片描述
至此，Hadoop HA集群搭建结束！

Bright Huang
关注
  • 4
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
大数据高可用集群环境安装与配置（02）——配置ntp服务
小强的博客
01-08 302
大数据高可用集群环境安装与配置（01）——服务器基础配置 NTP服务概述 NTP服务器【Network Time Protocol（NTP）】是用来使计算机时间同步化的一种协议，它可以使计算机对其服务器或时钟源（如石英钟，GPS等等)做同步化，它可以提供高精准度的时间校正（LAN上与标准间差小于1毫秒，WAN上几十毫秒），且可介由加密确认的方式来防止恶毒的协议攻击。时间按NTP服务器的等级传播...
Hadoop3集群搭建之——配置ntp服务
anfuyi5792的博客
04-25 420
上篇： Hadoop3集群搭建之——虚拟机安装 Hadoop3集群搭建之——安装hadoop，配置环境 下篇： Hadoop3集群搭建之——hive安装 Hadoop3集群搭建之——hbase安装及简单操作 　　安装好的的虚拟机，发现时间不一致，相差还比较大，对于hadoop集群来说，是需要时间同步的。 　　这个时候，就需要一个ntp服务了。 　　1、在各个节点上...
搭建NTP服务集群、高可用
weixin_30525825的博客
04-03 1392
1、原理 Keepalived 的作用是检测后端服务器的状态，如果有一台服务器死机，或工作出现故障，Keepalived 将检测到，并将有故障的服务器从系统中剔除。当服务器工作正常后 Keepalived 自动将服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的服务器。 2、keepalived的作用 1.管理 VIP VIP 会在 LV...
hadoop所有节点配置NTP服务
qq_34975445的博客
04-27 1354
集群中所有主机必须保持时间同步，如果时间相差较大会引起各种问题。具体思路如下：NameNode节点作为NTP服务器与外界的对时中心同步时间，随后对所有DataNode节点提供时间同步服务。所有DataNode节点以NameNode节点为基础同步时间。所有节点安装相关组件：yum install ntp完成后，配置开机启动：chkconfig ntpd on检查是否设置成功：chkconfig ——...
hadoop 大数据环境配置 同步时间 centos服务器时间同步 linux 安装ntp服务更新时间 hadoop（六）
最新发布
求是
11-14 2217
4. 开机自启，更新时间。1. 安装ntp软件。
基于 ZooKeeper 搭建 Hadoop 高可用集群 的教程图解
09-29
Hadoop 高可用 (High Availability) 分为 HDFS 高可用和 YARN 高可用，两者的实现基本类似，但 HDFS NameNode 对数据存储及其一致性的要求比 YARN ResourceManger 高得多，所以它的实现也更加复杂，下面给大家详细...
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase）
03-30
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase） 一、Hadoop HA高可用集群概述 在大数据处理中，高可用集群是非常重要的，Hadoop HA高可用集群可以提供高可靠性和高可用性，确保数据处理不中断。该集群由...
基于Zookeeper搭建Hadoop高可用集群
06-15
基于 Zookeeper 搭建 Hadoop 高可用集群是指使用 Zookeeper 实现 Hadoop 集群的高可用性，确保 Hadoop 集群的可靠性和稳定性。高可用性是指系统在面临故障或错误时仍能继续运行的能力，能够确保系统的连续性和可靠性...
集群环境搭建-Centos+kafka+zookeeper+hadoop+Spark
12-19
通过VirtualBox安装多台虚拟机，实现集群环境搭建。 优势：一台电脑即可。 应用场景：测试，学习。...内附百度网盘下载地址，有hadoop+zookeeper+spark+kafka等等·····需要的安装包和配置文件
NTP服务器配置及简单体验heartdeatv1高可用流程
weixin_34198762的博客
01-10 161
NTP服务器配置及heartbeatV1实现httpd高可用NTP服务器的搭建和使用 由于在做到高可用集群时，对个各节点的时间要求比较严格。因此我们需要配置一个NTP服务器实现高可用集群的的时间同步器。然后将其他的节点时间指向这个ntp，先来...
Keepalived + ntp高可用时间同步服务器
CleverCode的博客
09-20 2808
文章目录1 ntp简介2 ntp原理3 常见使用架构3.1 使用ntpd服务4 1 ntp简介 NTP是网络时间协议(Network Time Protocol)，它是用来同步网络中各个计算机的时间的协议。 在计算机的世界里，时间非常地重要，例如对于火箭发射这种科研活动，对时间的统一性和准确性要求就非常地高，是按照A这台计算机的时间，还是按照B这台计算机的时间？NTP就是用来解决这个问题的，NTP...
Hadoop集群下的ZooKeeper配置
weixin_44147632的博客
08-21 364
ZooKeeper安装zookeeper环境“一键”启动zookeeper脚本zookeeper的主从机选取机制 安装zookeeper环境 zookeeper安装包：https://pan.baidu.com/s/1fpdBs8kbjPj5rlrwusv1iw 提取码：h1wv 需要准备号jdk环境：参考：https://blog.csdn.net/weixin_44147632/article/details/107796624 解压：tar -zxf zookeeper-3.4.5-cdh5.14.2
Hadoop集群时间同步设置及Zookeeper安装配置
jiandanbuguo的博客
09-08 405
Hadoop集群还没搭建的小伙伴可以参照：Hadoop集群搭建 集群时间同步 搭建zookeeper的首要要让集群时间同步 首先确认是否安装过ntp: rpm -qa | grep ntp,若下载过则使用yum -y remove 卸载 下载ntp：yum install -y ntp(3个虚拟机都要下载) 修改所有节点的/etc/ntp.conf文件，命令：vi /etc/ntp.conf,添加如下内容： #当前节点IP地址 restrict 192.168.233.101 nomodify not
（五）Hadoop HA高可用集群的配置-Hadoop HA集群模式的安装
T.machine的博客
12-07 3651
目录 一、目的及要求： 实验目的： 实验要求： 二、环境要求： 集群规划： 三、具体步骤： 项目一：Hadoop的基本安装配置 项目二：Hadoop高可用完全分布模式配置 项目三：同步安装和配置 项目四：Hadoop高可用完全分布模式格式化和启动 四、可能遇到的问题： HA的架构 Hadoop HA 即Hadoop的高可用，不同于普通的namenode+s...
NTP服务架构和使用
weixin_33857230的博客
09-10 124
1.概述ntpd是Linux下默认安装的一种时间同步服务。 如果需要在Windows和Linux服务器之间进行时间同步，可以使用：1.1.LinuxNTP服务使用Linux作为NTP服务器，然后再Windows中使用ntp客户端软件ntpdate进行同步。 在Windows中定时运行的一种方法是在“开始”菜单的“启动”组中添加命令行，如下： C:>ntpd...
hadoop生态之zookeeper安装配置（一）
05-24 251
ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。 ZooKeeper的目标就是封装好复杂易出错的关键服务，将简单易用的接口和性能高效、功能稳定的系统提供给用户。 Zookeeper架构图： ...
高可用时间
weixin_33693070的博客
07-15 104
转载于:https://blog.51cto.com/wsxxsl/1947811
五节点的Hadoop HA集群搭建
thu16kevin的博客
05-13 509
Hadoop高可用集群搭建 1 集群规划 1.1 节点（虚拟机） 主机名 IP 操作系统 安装软件 vm1 10.211.55.11 Centos 7 JDK，Hadoop vm2 10.211.55.12 Centos 7 JDK，Hadoop vm3 10.211.55.13 Centos 7 JDK，Hadoop，Zookeeper vm4 10.211.55.14 Centos 7 JDK，Hadoop，Zookeeper vm5 10.211.55.15 Cento
记录ResourceManager选主失败的一次case
我是明星的专栏
01-29 659
前段时间在clouderamanager管理集群的时候，需要重启集群，但是重启集群后发现两个ResourceManager都处于备用状态，也就是没有选出主RM
9、hadoop高可用HA集群部署及三种方式验证
05-29
9、hadoop高可用HA集群部署及三种方式验证 网址：https://blog.csdn.net/chenwewi520feng/article/details/130344998 本文介绍hadoop HA环境部署。本文分为三部分，即HA集群规划、HA集群部署和HA集群验证 前提依赖： 1、前提是zookeeper已经部署好，其服务器部署在server1、server2、server3上，且能正常运行 2、ssh免登录已完成配置，且完成NameNode和NameNode的相互免密，比如server1和server2是两个NameNode，其相互已经免密。 ———————————————— 版权声明：本文为CSDN博主「一瓢一瓢的饮 alanchan」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。 原文链接：https://blog.csdn.net/chenwewi520feng/article/details/130344998

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值