Hadoop(六)Hadoop-HA模式(超详细，剑指第一)

最新推荐文章于 2024-04-08 03:46:03 发布
最新推荐文章于 2024-04-08 03:46:03 发布
阅读量1.6k 收藏 8
点赞数 3
分类专栏： hadoop 文章标签： hadoop 分布式 大数据 hdfs zookeeper
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Kruskual/article/details/108566742
版权

写在前面

  本文为hadoop系列博客最后一篇博客，下篇博客开启Hive篇章，敬请期待。那这篇博客讲了个什么事呢？白话一下：就是HDFS和Yarn在集群里只能有一个namenode和resourcemanager,那么如果有一天他俩挂了，我们究竟要怎么做，才能使新的namenode或resourcemanager以最短的时间接管集群。大多数情况下我们会启动一个 NameNode 的热备（Warm standby ）节点。也就是说当主节点不能正常服务时，由热备节点进行接替。此时主备节点切换时间为服务恢复时间，服务恢复时间越短高可用性越大（HA越大）。

一，概述

  HA 的英文全称是 High Availability，中文翻译为高可用性。HA 的定义为 系统对外正常提供服务时间的百分比。
  实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。即 NameNode HA with QJM和ResourcesManager HA
  具体来说，集群的可靠性可用平均无故障时间（MTTF）来度量，即集群正常服务的平均运行时间，集群的可维护性用平均维修时间（MTTR）来度量，即集群从不能正常服务到重新正常服务所需要的平均维修时间。
  因此 HA 可精确定义为：MTTF/(MTTF+MTTR) * 100%

  1.NameNode HA

  HDFS HA功能通过NameNode的热备来解决故障问题。如果出现故障，如机器崩溃或机器需要升级维护，这时可通过此种方式将热备NameNode很快的切换到另外一台机器。

  那么要实现主备节点的切换，就要对传统的框架进行一些改变：

  1. 元数据管理方法
    需要两个namenode来分别做主备节点（zookeeper的去集群中心化）
  2. 增加一个状态管理功能模块
    就是说得有一个进程来管理namenode的状态，判断他是否在正常运行（zookeeper的zkfailover进程）
  3. 保证两个主备NameNode之间能够ssh无密码登录
  4. 隔离（Fence），即同一时刻仅仅有一个NameNode对外提供服务（两个namenode同时工作的情况称为脑裂现象）

  主备节点切换的细节

  1. 故障检测
    集群中的每个NameNode在ZooKeeper中维护了一个会话，如果机器崩溃，ZooKeeper中的会话将终止，ZooKeeper通知另一个NameNode需要触发故障转移。

  2. 现役namenode选择
    ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃，另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。
    ZKFC是自动故障转移中的另一个新组件，是ZooKeeper的客户端，也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程。
    ZKFC负责：

  3. 健康监测
    ZKFC使用一个健康检查命令定期地ping与之在相同主机的NameNode，只要该NameNode及时地回复健康状态，ZKFC认为该节点是健康的。如果该节点崩溃，冻结或进入不健康状态，健康监测器标识该节点为非健康的。

  4. ZooKeeper会话管理
    当本地NameNode是健康的，ZKFC保持一个在ZooKeeper中打开的会话。如果本地NameNode处于active状态，ZKFC也保持一个特殊的znode锁，该锁使用了ZooKeeper对短暂节点的支持，如果会话终止，锁节点将自动删除。

  5. 基于ZooKeeper的选择
    如果本地NameNode是健康的，且ZKFC发现没有其它的节点当前持有znode锁，它将为自己获取该锁。如果成功，则它已经赢得了选择，并负责运行故障转移进程以使它的本地NameNode为Active。
      2.ResourceManager HA
      官方文档链接如下：http://hadoop.apache.org/docs/r3.1.3/hadoop-yarn/hadoop-yarn-site/ResourceManagerHA.html
      RM可以选择嵌入基于Zookeeper的ActiveStandbyElector，以确定哪个RM应该是Active。当Active发生故障或无响应时，另一个RM将自动被选为Active，然后接管。请注意，不需要像HDFS那样运行单独的ZKFC守护程序，因为嵌入在RM中的ActiveStandbyElector充当故障检测器和领导者选举者，而不是单独的ZKFC守护进程。
      思考一下，为啥Yarn有内嵌故障检测器，而HDFS没有呢？（是因为第一代hadoop里mapreduce包含了分布式计算和资源调配的功能，到了第二代把mapreduce的资源调配功能分离了出来做成了yarn，在第二代hadoop发行的时候，zookeeper也在发行，这时候一些大神就把ZKFC的函数直接加在yarn上了。）
    在这里插入图片描述

二，Namenode HA搭建

  1. 在/opt下新建ha目录，并将hadoop安装包拷贝一份
sudo mkdir /opt/ha
sudo chown atguigu:atguigu /opt/ha
cp -r /opt/module/hadoop-3.1.3 /opt/ha
rm -rf /opt/ha/hadoop-3.1.3/data /opt/ha/hadoop-3.1.3/logs
  1. 修改/opt/ha/hadoop-3.1.3的配置文件
  • core-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://mycluster</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/ha/hadoop-3.1.3/data</value>
    </property>
    <property>
        <name>hadoop.proxyuser.atguigu.hosts</name>
        <value>*</value>
    </property>
    <property>
        <name>hadoop.proxyuser.atguigu.groups</name>
        <value>*</value>
    </property>
    <property>
        <name>hadoop.http.staticuser.user</name>
        <value>atguigu</value>
    </property>
    <property>
	    <name>ha.zookeeper.quorum</name>
	    <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

</configuration>
  • hdfs-site.xml
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
  <property>
    <name>dfs.nameservices</name>
    <value>mycluster</value>
  </property>
  <property>
    <name>dfs.ha.namenodes.mycluster</name>
    <value>nn1,nn2, nn3</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn1</name>
    <value>hadoop102:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn2</name>
    <value>hadoop103:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn3</name>
    <value>hadoop104:8020</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.mycluster.nn1</name>
    <value>hadoop102:9870</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.mycluster.nn2</name>
    <value>hadoop103:9870</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.mycluster.nn3</name>
    <value>hadoop104:9870</value>
  </property>
  <property>
    <name>dfs.journalnode.edits.dir</name>
    <value>${hadoop.tmp.dir}/jn</value>
  </property>
  <property>
    <name>dfs.namenode.shared.edits.dir</name>
    <value>qjournal://hadoop102:8485;hadoop103:8485;hadoop104:8485/mycluster</value>
  </property>
  <property>
    <name>dfs.client.failover.proxy.provider.mycluster</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
  <property>
    <name>dfs.ha.fencing.methods</name>
    <value>sshfence</value>
  </property>
  <property>
    <name>dfs.ha.fencing.ssh.private-key-files</name>
    <value>/home/atguigu/.ssh/id_ecdsa</value>
  </property>
  <property>
	<name>dfs.ha.automatic-failover.enabled</name>
	<value>true</value>
  </property>
</configuration>
  1. 发送hadoop到所有 节点
sudo xsync /opt/ha
  1. 修改环境变量
#HADOOP_HOME
export HADOOP_HOME=/opt/ha/hadoop-3.1.3
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

sudo xsync /etc/profile.d/my_env.sh

source一下或者重启session

  1. 启动JournalNode

在任意一台节点执行

hdfs --workers --daemon start journalnode
  1. 32格式化NN
    第五步执行完后，等一段时间再格式化。
hdfs --workers --daemon start journalnode
  1. 33，34同步32的元数据
    在33，34上执行同步命令，并启动Namenode
hdfs namenode -bootstrapStandby
hdfs --daemon start namenode
  1. 初始化zkfc在zookeeper中的节点

先启动zookeeper集群 后，在任意一台节点格式化zkfc

hdfs zkfc -formatZK
  1. 启动zkfc

在32，33，34上分别启动zkfc

hdfs --daemon start zkfc
  1. 启动datanodes

在任意一节点执行

hdfs --workers --daemon start datanode
  1. 假设出了问题，想重新来，怎么办

  • 关闭集群，在所有节点执行
killall -9 java
  • 在所有节点删除data logs文件夹
rm -rf /opt/ha/hadoop-3.1.3/data /opt/ha/hadoop-3.1.3/logs
  • 启动Zookeeper集群
  • 执行第5，6，7，9，10步

三，Yarn HA搭建

  1. 修改配置文件yarn-site.xml
<configuration>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!-- 启用resourcemanager ha -->
    <property>
        <name>yarn.resourcemanager.ha.enabled</name>
        <value>true</value>
    </property>
 
    <!-- 声明两台resourcemanager的地址 -->
    <property>
        <name>yarn.resourcemanager.cluster-id</name>
        <value>cluster-yarn1</value>
    </property>
    <!--指定resourcemanager的逻辑列表-->
    <property>
        <name>yarn.resourcemanager.ha.rm-ids</name>
        <value>rm1,rm2</value>
</property>
<!-- ========== rm1的配置 ========== -->
<!-- 指定rm1的主机名 -->
    <property>
        <name>yarn.resourcemanager.hostname.rm1</name>
        <value>hadoop102</value>
</property>
<!-- 指定rm1的web端地址 -->
<property>
     <name>yarn.resourcemanager.webapp.address.rm1</name>
     <value>hadoop102:8088</value>
</property>
<!-- 指定rm1的内部通信地址 -->
<property>
     <name>yarn.resourcemanager.address.rm1</name>
     <value>hadoop102:8032</value>
</property>
<!-- 指定AM向rm1申请资源的地址 -->
<property>
     <name>yarn.resourcemanager.scheduler.address.rm1</name>  
     <value>hadoop102:8030</value>
</property>
<!-- 指定供NM连接的地址 -->  
<property>
     <name>yarn.resourcemanager.resource-tracker.address.rm1</name>
     <value>hadoop102:8031</value>
</property>
<!-- ========== rm2的配置 ========== -->
    <!-- 指定rm2的主机名 -->
    <property>
        <name>yarn.resourcemanager.hostname.rm2</name>
        <value>hadoop103</value>
</property>
<property>
     <name>yarn.resourcemanager.webapp.address.rm2</name>
     <value>hadoop103:8088</value>
</property>
<property>
     <name>yarn.resourcemanager.address.rm2</name>
     <value>hadoop103:8032</value>
</property>
<property>
     <name>yarn.resourcemanager.scheduler.address.rm2</name>
     <value>hadoop103:8030</value>
</property>
<property>
     <name>yarn.resourcemanager.resource-tracker.address.rm2</name>
     <value>hadoop103:8031</value>
</property>
 
    <!-- 指定zookeeper集群的地址 --> 
    <property>
        <name>yarn.resourcemanager.zk-address</name>
        <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
    </property>

    <!-- 启用自动恢复 --> 
    <property>
        <name>yarn.resourcemanager.recovery.enabled</name>
        <value>true</value>
    </property>
 
    <!-- 指定resourcemanager的状态信息存储在zookeeper集群 --> 
    <property>
        <name>yarn.resourcemanager.store.class</name>     <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>
<!-- 环境变量的继承 -->
 <property>
        <name>yarn.nodemanager.env-whitelist</name>
        <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>

</configuration>
  1. 同步更新其他节点的配置信息，分发配置文件
xsync hadoop/

然后启动hdfs,启动yarn

写在最后

在网页端查看其状态，我这里就直截图HDFS的了，Yarn的比较好玩（坏笑）我就不截图了。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
请杀掉正在运行的主namenode，查看下一个主namenode。

学庭
关注
  • 3
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
hadoop-HA搭建
08-14
这个文档是本人搭建成功的步骤，能正常使用，里面配置了首先自己要步骤进行
Hadoop-HA模式（详解）
热门推荐
窃格拉瓦
08-21 2万+
一、概述 之前的博客写了搭建hadoop集群环境，今天写一写搭建高可用（HA）环境。Hadoop-HA模式大致分为两个(个人在学习中的理解)： namenode 高可用 yarn 高可用 1、Namenode HA Namenode在HDFS中是一个非常重要的组件，相当于HDFS文件系统的心脏，在显示分布式集群环境中，还是会有可能出现Namenode的崩溃或各种意外。所以，高可用模...
HadoopHA模式（由于Hadoop的HA模式是在Hadoop完全分布式基础上，利用zookeeper等协调工具配置的高可用的Hadoop集群模式(1)
最新发布
2401_84164576的博客
04-08 706
外链图片转存中…(img-jL1KN0au-1712519153288)][外链图片转存中…(img-bxWIIOug-1712519153289)]
Hadoop HA
chanyi8784的博客
09-08 229
HA 概述 所谓HA（High Available），即高可用（7*24小时不中断服务） 实现高可用最关键的策略是消除单点故障，HA 严格来说应该分成各个组件的 HA 机制：HDFS 的 HA 和 YARN 的 HA Hadoop2.0 之前，在 HDFS 集群中 NameNode 存在单点故障（SPOF） NameNode 主要在以下两个方面影响 HDFS 集群 NameNode 机器发生意...
HDFS2.0 HA实现
findzk的博客
10-31 266
Active NameNode 和 Standby NameNode：两台 NameNode 形成互备，一台处于 Active 状态，为主 NameNode，另外一台处于 Standby 状态，为备 NameNode，只有主 NameNode 才能对外提供读写服务； ZKFailoverController（主备切换控制器，FC）：ZKFailoverController 作为独立的进程运行，对...
7 Hadoop HA
weixin_42749734的博客
01-30 206
第七部分 Hadoop HA 7.1 HA概述 所谓HA(High Available)，即⾼可用(7*24⼩时不中断服务)。 实现⾼可用最关键的策略是消除单点故障。Hadoop-HA严格来说应该分成各个组件的HA机制:HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在单点故障(SPOF)。 NameNode主要在以下两个⽅方⾯面影响HDFS集群 NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启 NameNode机器需要升级，包括软
hadoop-common-2.2.0-bin-master.zip
04-30
hadoop-common-2.2.0-bin-master(包含windows端开发Hadoop和Spark需要的winutils.exe),Windows下IDEA开发Hadoop和Spark程序会报错，原因是因为如果本机操作系统是windows，在程序中使用了hadoop相关的东西，比如写入...
hadoop-yarn-common-2.6.5-API文档-中文版.zip
04-07
赠送jar包：hadoop-yarn-common-2.6.5.jar 赠送原API文档：hadoop-yarn-common-2.6.5-javadoc.jar 赠送源代码：hadoop-yarn-common-2.6.5-sources.jar 包含翻译后的API文档：hadoop-yarn-common-2.6.5-javadoc-...
hudi-hadoop-mr-bundle-0.11.0.jar
06-28
hudi-hadoop-mr-bundle-0.11.0.jar 配合文档
Hadoop开发环境的插件hadoop-eclipse-plugin-2.10.1
11-19
Hadoop Eclipse是Hadoop开发环境的插件，用户在创建Hadoop程序时，Eclipse插件会自动导入Hadoop编程接口的jar文件，这样用户就可以在Eclipse插件的图形界面中进行编码、调试和运行Hadop程序，也能通过Eclipse插件...
hadoop-mapreduce-client-jobclient-2.6.5-API文档-中文版.zip
05-01
赠送jar包：hadoop-mapreduce-client-jobclient-2.6.5.jar； 赠送原API文档：hadoop-mapreduce-client-jobclient-2.6.5-javadoc.jar； 赠送源代码：hadoop-mapreduce-client-jobclient-2.6.5-sources.jar； 赠送...
hadoop的独立模式、伪分布模式、完全分布式、HA配置文件
12-22
hadoop的独立模式、伪分布模式、完全分布式、HA配置文件
HadoopHA模式图解
Lpf的博客
06-24 1544
HadoopHA图解
12）Hadoop之HDFS HA（高可用）
zy
09-25 353
HA概述： 所谓HA（High Available），即高可用（7*24小时服务不中断） 实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 NameNode主要在以下两个方面影响HDFS集群： NameNode机器发生意外，如宕机，集群将无法使用，直...
hadoop HA 架构
Big Data
04-01 367
集群的好处： 每一个角色都是一个进程； HDFS：NN（老大），SNN，DN YARN：RM（老大），NM 老大挂了怎么办？ 大数据所有的组件都是主从架构的 master-slave 比如，hdfs读写请求都是先NN节点，但是hbase 读和写的请求不经过老大master，建表语句经过 一般配置两个NN节点（实时的，任何时刻只有一台对外，另外一台standby 做实时备份 随时...
Hadoop-HA模式概念
weixin_46662378的博客
09-09 341
Hadoop-HA模式概念 •主从集群：结构相对简单，主与从协作 •主：单点，数据一致好掌握 •问题： •单点故障，集群整体不可用 •压力过大，内存受限 HDFS解决方案： •单点故障： • 高可用方案：HA（High Available） • 多个NN，主备切换，主 •压力过大，内存受限： • 联帮机制： Federation（元数据分片） • 多个NN，管理不同的元数据 •HADOOP 2.x 只支持HA的一主一备 HDFS-HA解决方案： Namenode元数据路径： 1，cli交互操作mkdir /
Hadoop-HA
weixin_52812666的博客
12-08 96
关闭防火墙 [root@moyue01 bin]# vim firewalld.sh #！/bin/bash for i in moyue01 moyue02 moyue03 do ssh $i "systemctl stop firewalld" done [root@moyue01 bin]# firewalld.sh 修改hdfs-site.xml [root@moyue01 hadoop]# pwd /usr/local/hadoop/etc/hadoop #添..
Hadoop HA模式
weixin_46886475的博客
05-22 587
HDFS HA与YARN HA
hadoop HA模式
07-28
Hadoop HA模式是指在Hadoop集群中实现高可用性的一种配置方式。它主要包括Namenode HA和Yarn HA两个方面。 Namenode HA是指在Hadoop集群中实现Namenode的高可用性。在Namenode HA模式下，有两个Namenode节点，一个是Active状态的主节点，另一个是Standby状态的备用节点。当主节点发生故障时，备用节点会自动接管主节点的工作，从而实现Namenode的无缝切换。为了实现Namenode HA，需要进行一些配置。其中，需要修改core-site.xml文件，设置fs.defaultFS属性为hdfs://mycluster，设置hadoop.tmp.dir属性为/opt/module/hadoop-2.6.5/data。\[2\] Yarn HA是指在Hadoop集群中实现Yarn ResourceManager的高可用性。在Yarn HA模式下，有两个ResourceManager节点，一个是Active状态的主节点，另一个是Standby状态的备用节点。当主节点发生故障时，备用节点会自动接管主节点的工作，从而实现Yarn ResourceManager的无缝切换。为了实现Yarn HA，需要进行一些配置。具体的配置步骤可以参考Hadoop官方文档或其他相关教程。 总结起来，Hadoop HA模式是通过配置Namenode HA和Yarn HA来实现Hadoop集群的高可用性。这样可以提高Hadoop集群的稳定性和可靠性，确保在节点故障时能够自动切换并保持服务的正常运行。 #### 引用[.reference_title] - *1* *2* [Hadoop-HA模式（详解）](https://blog.csdn.net/baidu_28997655/article/details/81906591)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [Hadoop HA模式](https://blog.csdn.net/weixin_46886475/article/details/130795743)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值