HA 高可用集群搭建与使用

最新推荐文章于 2024-04-15 19:23:57 发布
最新推荐文章于 2024-04-15 19:23:57 发布
阅读量1k 收藏 2
点赞数 1
分类专栏： 小坏讲HA高可用 文章标签： hadoop big data
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42082701/article/details/120649394
版权

HA 高可用集群搭建与使用

搭建问题总结

1、搭建不会生成data目录原因

hdfs.size.xml 配置问题、这个journalnode 你要放在hdfs这个配置文件里、不要放在core.size.xml里面

  <!-- 声明journalnode服务器存储目录-->
  <property>
    <name>dfs.journalnode.edits.dir</name>
    <value>/opt/module/hadoop-3.1.3/data/jn</value>
  </property>

2、HA不会自动转移问题

搭建完成射死一台机器、另一个不会自动转移、而要把射死的启动他才能转移过去、

由于缺少插件的原因、zk不会有失败的进程、安装以下插件就可以解决
yum -y install psmisc

一、HA概述

1）所谓HA（High Available），即高可用（7*24小时不中断服务）。
2）实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。
3）Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。
4）NameNode主要在以下两个方面影响HDFS集群
NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启
NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用
HDFS HA功能通过配置Active/Standby两个NameNodes实现在集群中对NameNode的热备来解决上述问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将NameNode很快的切换到另外一台机器。

二、 HDFS-HA工作机制

通过双NameNode消除单点故障

1、HDFS-HA工作要点

  1. 元数据管理方式需要改变 内存中各自保存一份元数据； Edits日志只有Active状态的NameNode节点可以做写操作； 两个NameNode都可以读取Edits； 共享的Edits放在一个共享存储中管理（qjournal和NFS两个主流实现）；
  1. 需要一个状态管理功能模块 实现了一个zkfailover，常驻在每一个namenode所在的节点，每一个zkfailover负责监控自己所在NameNode节点，利用zk进行状态标识，当需要进行状态切换时，由zkfailover来负责切换，切换时需要防止brain
    split现象的发生。
  1. 必须保证两个NameNode之间能够ssh无密码登录
  1. 隔离（Fence），即同一时刻仅仅有一个NameNode对外提供服务

2、HDFS-HA自动故障转移工作机制

前面学习了使用命令hdfs haadmin -failover手动进行故障转移，在该模式下，即使现役NameNode已经失效，系统也不会自动从现役NameNode转移到待机NameNode，下面学习如何配置部署HA自动进行故障转移。自动故障转移为HDFS部署增加了两个新组件：ZooKeeper和ZKFailoverController（ZKFC）进程，如图3-20所示。ZooKeeper是维护少量协调数据，通知客户端这些数据的改变和监视客户端故障的高可用服务。HA的自动故障转移依赖于ZooKeeper的以下功能

1）故障检测

集群中的每个NameNode在ZooKeeper中维护了一个持久会话，如果机器崩溃，ZooKeeper中的会话将终止，ZooKeeper通知另一个NameNode需要触发故障转移。

2）现役NameNode选择

ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃，另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。

ZKFC是自动故障转移中的另一个新组件，是ZooKeeper的客户端，也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程，ZKFC负责

1）健康监测

ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode，只要该NameNode及时地回复健康状态，ZKFC认为该节点是健康的。如果该节点崩溃，冻结或进入不健康状态，健康监测器标识该节点为非健康的。

2）ZooKeeper会话管理

当本地NameNode是健康的，ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态，ZKFC也保持一个特殊的znode锁，该锁使用了ZooKeeper对短暂节点的支持，如果会话终止，锁节点将自动删除。

3）基于ZooKeeper的选择

如果本地NameNode是健康的，且ZKFC发现没有其它的节点当前持有znode锁，它将为自己获取该锁。如果成功，则它已经赢得了选择，并负责运行故障转移进程以使它的本地NameNode为Active。故障转移进程与前面描述的手动故障转移相似，首先如果必要保护之前的现役NameNode，然后本地NameNode转换为Active状态。

HDFS-HA故障转移机制
在这里插入图片描述

三、配置HDFS-HA集群

1、官方地址

http://hadoop.apache.org/

2. 在opt目录下创建一个ha文件夹

mkdir ha

3. 将/opt/app/下的 hadoop-2.7.2拷贝到/opt/ha目录下

cp -r hadoop-2.7.2/ /opt/ha/

4. 配置hadoop-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

5. 配置core-site.xml

<configuration>

<!-- 把两个NameNode）的地址组装成一个集群mycluster -->
    <property>
      <name>fs.defaultFS</name>
          <value>hdfs://mycluster</value>
    </property>

    <!-- 指定hadoop运行时产生文件的存储目录 -->
    <property>
      <name>hadoop.tmp.dir</name>
      <value>/opt/module/hadoop-3.1.3/data/tmp</value>
    </property>

<!--zk的集群配置-->
    <property>
  <name>ha.zookeeper.quorum</name>
  <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
</property>

</configuration>

6. 配置hdfs-site.xml

<configuration>

  <!-- 完全分布式集群名称 -->
  <property>
    <name>dfs.nameservices</name>
    <value>mycluster</value>
  </property>

<!-- 集群中NameNode节点都有哪些 -->
  <property>
    <name>dfs.ha.namenodes.mycluster</name>
    <value>nn1,nn2</value>
  </property>

  <!-- nn1的RPC通信地址 -->
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn1</name>
    <value>hadoop102:9000</value>
  </property>

  <!-- nn2的RPC通信地址 -->
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn2</name>
    <value>hadoop103:9000</value>
  </property>

  <!-- nn1的http通信地址 -->
  <property>
    <name>dfs.namenode.http-address.mycluster.nn1</name>
    <value>hadoop102:50070</value>
  </property>

  <!-- nn2的http通信地址 -->
  <property>
    <name>dfs.namenode.http-address.mycluster.nn2</name>
    <value>hadoop103:50070</value>
  </property>

  <!-- 指定NameNode元数据在JournalNode上的存放位置 -->
  <property>
    <name>dfs.namenode.shared.edits.dir</name>
  <value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/mycluster</value>
  </property>

  <!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->
  <property>
    <name>dfs.ha.fencing.methods</name>
    <value>sshfence</value>
  </property>

  <!-- 使用隔离机制时需要ssh无秘钥登录-->
  <property>
    <name>dfs.ha.fencing.ssh.private-key-files</name>
    <value>/home/atguigu/.ssh/id_rsa</value>
  </property>

  <!-- 声明journalnode服务器存储目录-->
  <property>
    <name>dfs.journalnode.edits.dir</name>
    <value>/opt/module/hadoop-3.1.3/data/jn</value>
  </property>


  <!-- 关闭权限检查-->
  <property>
    <name>dfs.permissions.enable</name>
    <value>false</value>
  </property>

  <!-- 访问代理类：client，mycluster，active配置失败自动切换实现方式-->
  <property>
      <name>dfs.client.failover.proxy.provider.mycluster</name>
  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>

<!--开启自动转移-->
  <property>
  <name>dfs.ha.automatic-failover.enabled</name>
  <value>true</value>
</property>

</configuration>

7. 拷贝配置好的hadoop环境到其他节点

四、启动HDFS-HA集群

1. 在各个JournalNode节点上，输入以下命令启动journalnode服务

sbin/hadoop-daemon.sh start journalnode

2. 在[nn1]上，对其进行格式化，并启动

bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode

3. 在[nn2]上，同步nn1的元数据信息

bin/hdfs namenode -bootstrapStandby

4. 启动[nn2]

sbin/hadoop-daemon.sh start namenode

5. 查看web页面显示

在这里插入图片描述

在这里插入图片描述

6. 在[nn1]上，启动所有datanode

sbin/hadoop-daemons.sh start datanode

7. 将[nn1]切换为Active

bin/hdfs haadmin -transitionToActive nn1

8、查看是否Active

	bin/hdfs haadmin -getServiceState nn1

五、配置HDFS-HA自动故障转移

1. 具体配置

（1）在hdfs-site.xml中增加

<property>
	<name>dfs.ha.automatic-failover.enabled</name>
	<value>true</value>
</property>

（2）在core-site.xml文件中增加

<property>
	<name>ha.zookeeper.quorum</name>
	<value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
</property>

2. 启动

（1）关闭所有HDFS服务

sbin/stop-dfs.sh

（2）启动Zookeeper集群

bin/zkServer.sh start

（3）初始化HA在Zookeeper中状态

bin/hdfs zkfc -formatZK

（4）启动HDFS服务

sbin/start-dfs.sh

3. 验证

（1）将Active NameNode进程kill

kill -9 namenode的进程id

（2）将Active NameNode机器断开网络

service network stop

六、YARN-HA配置

（1）yarn-site.xml

<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!--启用resourcemanager ha-->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!--声明两台resourcemanager的地址-->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>

    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
    </property>

    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
    </property>
 
    <!--指定zookeeper集群的地址--> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!--启用自动恢复--> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!--指定resourcemanager的状态信息存储在zookeeper集群--> 
    <property>
        <name>yarn.resourcemanager.store.class</name>     <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>

</configuration>

（2）同步更新其他节点的配置信息

3、启动hdfs

（1）在各个JournalNode节点上，输入以下命令启动journalnode服务

sbin/hadoop-daemon.sh start journalnode

（2）在[nn1]上，对其进行格式化，并启动

bin/hdfs namenode -format
sbin/hadoop-daemon.sh start namenode

（3）在[nn2]上，同步nn1的元数据信息

bin/hdfs namenode -bootstrapStandby

（4）启动[nn2]

sbin/hadoop-daemon.sh start namenode

（5）启动所有DataNode

sbin/hadoop-daemons.sh start datanode

4. 启动YARN

（1）在hadoop102中执行

sbin/start-yarn.sh

（2）在hadoop103中执行

sbin/yarn-daemon.sh start resourcemanager

（3）查看服务状态，

bin/yarn rmadmin -getServiceState rm1

由于是集群访问103的时候会强制你跳转到102的页面上
在这里插入图片描述

小坏讲微服务
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
k8s HA高可用集群搭建部署
06-29
课程内容分为两部分（主要内容为k8s搭建，解决了无法下载镜像问题）一部分为k8s高可用集群搭建部署以及第三方dashboard的管理页面，可以实现在页面上进行管操作，第二部分为k8s在线升级以及k8s采用第三方插件helm...
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase）
03-30
Hadoop HA高可用集群搭建（Hadoop+Zookeeper+HBase） 一、Hadoop HA高可用集群概述 在大数据处理中，高可用集群是非常重要的，Hadoop HA高可用集群可以提供高可靠性和高可用性，确保数据处理不中断。该集群由...
HA高可用
热门推荐
HelyD的博客
09-25 1万+
什么事应用程序的高可用 高可用性(high availability)通常用来描述一个系统经过专门的设计,从而减少停工的时间,而保持其服务的高度可用性 高可用程序的类型 主从方式(冷备) 两个相同的应用程序,一个对外提供服务,成为主程序,另一个平时不运行为备程序,就是一个主程序的备份,一旦主程序出现问题,备份提供恢复操作 双主互备(热备) 两个相同的应用程序,同时对外提供服务(两个程序相互为对方...
【Hadoop】HA高可用搭建保姆级教程（大二学长的万字笔记）
你不来，再美的天地，都狼藉 ~
05-29 8479
Hadoop HA高可用搭建保姆级教程，来自正在学习大数据导论的大二学长的万字笔记，干得不能再干的干货分享！
【Hadoop】HA高可用搭建保姆级教程（大二学长的万字笔记）_hadoop的高可用搭建
2401_84167086的博客
04-15 591
在是NameNode节点上的任意一个节点上初始化NameNode，并且只需要初始化一遍，这里我的集群中，hadoop102和hadoop103上都有NameNode，但是因为hadoop103上有DataNode，所以我 选择使用hadoop102作为初始化节点。下面是解压过程：（该过程只需要在一台节点上完成即可，我这里使用的hadoop102，其他的节点后面使用克隆）。分别在hadoop102，hadoop103，hadoop104三个节点上启动Zookeeper，因为这三个节点在集群规划中有JNN。
HDFS HA 高可用集群搭建详细图文教程
Stars.Sky 的博客
09-04 2787
HDFS HA 高可用搭建详细图文教程
HA（高可用） 技术全面介绍
09-17 2522
阅读本文大概需要 5.5 分钟。作者：运维派来源：http://uee.me/aYhrVHA(High Availability)的定义可用性提供在本地系统的单个组件故障...
Hadoop HA 高可用之旅
记录点点滴滴
11-19 992
Hadoop HA 高可用之旅概述HDFS-HA 集群搭建HDFS-HA 核心问题HDFS-HA 手动模式环境准备规划集群配置 HDFS-HA 集群启动 HDFS-HA 集群HDFS-HA 自动模式HDFS-HA 自动故障转移工作机制HDFS-HA 自动故障转移的集群规划配置 HDFS-HA 自动故障转移解决 NN 连接不上 JN 的问题YARN-HA 配置YARN-HA 工作机制配置 YARN-HA 集群环境准备规划集群核心问题具体配置启动 YARNHADOOP HA 的最终规划 概述 所谓 HA（Hig
linux下搭建ha高可用集群
05-14
Linux 下搭建 HA 高可用集群 HA 高可用集群（High Availability Cluster）是一种特殊类型的集群系统，它的主要目的是为了使集群的整体服务尽可能可用，从而减少由计算机硬件和软件易错性所带来的损失。在 Linux 下...
Hadoop3以及高可用HA搭建方式.zip
07-10
本教程将详细阐述Hadoop3的基础知识及其高可用性（High Availability，简称HA）的搭建方法。 首先，我们需要理解Hadoop的核心组件：HDFS（Hadoop Distributed File System）和YARN（Yet Another Resource ...
Spark环境搭建——HA高可用模式
01-20
Spark的高可用（HA）模式是为了克服其Standalone集群中Master节点的单点故障问题而设计的。在标准模式下，Spark Standalone集群由一个Master节点和多个Slave节点组成，Master负责调度作业和管理资源，但这样的架构...
HA及Cluster集群
11-08
高可用性HA及Cluster集群.doc
Hadoop HA 高可用
unhurried人生——冕临的博客
09-22 864
HA，即高可用（7*24 小时不中断服务）。实现高可用最关键的策略是消除单点故障。HA 严格来说应该分成各个组件的 HA机制：HDFS 的 HA 和 YARN 的 HA。在Hadoop2.0版本之前，HDFS集群中一旦NameNode节点所在的机器发生意外，如宕机，集群将无法使用，直到管理员重启。或者NameNode节点的机器需要升级，包括软件、硬件升级，此时集群也将无法使用。HDFS HA就是为了解决上述问题。
HA—Hadoop高可用【言简意赅，短小精悍】
qq_73181349的博客
04-15 909
Hadoop高可用：通过zookeeper完成Hdfs高可用和Yarn高可用搭建
高可用集群HA
我的笔记
01-16 117
大数据自学笔记——高可用集群HA的搭建
HA（高可用）集群详解
weixin_34292402的博客
04-21 238
HA集群的架构 图3.1 HA集群架构 1) 共享信息层 在基础架构上实现心跳信息探测。双方节点可以随时探测到对方的心跳信息，以实现对对方主机工作状态的探测。三类控制信息：心跳（Heartbeats），集群事务信息（Cluster Transition Messages），重传信息（Retransmission Request）。 配置文件：/etc/ha...
HA集群基础知识
weixin_34354945的博客
04-01 133
一：HA集群是什么ha集群通俗讲就像美国的正副（主备节点）总统样，正常有正总统管理一切事物，突然如果正总统挂掉，副总统能够很快接替正总统的职责，不会出现国家没有领导的情况（也就是服务不会中断）二：HA高可用集群基本组成部分 高可用集群主要是有两个或者多个节点进行工作，从上图可知一套ha基本组成部分包括四个部分：1，位于最底层的信息和基础架构层（Messaging and I...
ha环境搭建
weixin_51737266的博客
11-06 1127
ha搭建无本人许可禁止转载
高可用集群搭建hive
最新发布
06-30
Hive作为基于Hadoop的数据仓库工具，可以通过搭建高可用集群来提高其服务的可靠性。以下是搭建高可用Hive集群的基本步骤和关键组件： 1. **Hadoop HA（High Availability）基础**: - HDFS Federation: 将HDFS划分...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值