HDFS HA高可用集群配置

最新推荐文章于 2024-04-15 17:26:33 发布
置顶 最新推荐文章于 2024-04-15 17:26:33 发布
阅读量340 收藏 2
点赞数
分类专栏： HDFS HA高可用 zookeeper 文章标签： hdfs hadoop zookeeper
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42387496/article/details/108540218
版权

HDFS HA高可用（NameNode）

 

 

HDFS HA高可用配置

 

HDFS HA高可用（NameNode）

HDFS HA高可用配置目录

 

 

一、配置zookeeper集群，启动zookeeper的集群环境

1.    集群规划

2.    解压安装

3.    配置zoo.cfg文件

4.    集群操作

二、配置HDFS-HA集群

    1，备份hadoop

    2，删除集群中另外两个节点的hadoop-2.7.2

    3，配置core-site.xml

    4，配置hdfs-site.xml

5，把hadoop-2.7.2传输给另外两台机器（以下是两条传输命令，也可以自己编写脚本传输）

三、启动HDFS-HA集群

    1，删除hadoop-2.7.2中的data目录的数据

    2，每台机器都启动启动JournalNode

    3，在NN1上对其进行格式化，并启动   

    4，在NN2上，同步nn1的元数据信息

    5，启动NN2

    6，界面查看standby状态

    7，启动所有的datanode

        hdfs haadmin -transitionToActive nn1

    9，获取状态

四、配置自动故障转移

    1，在NN1上的hdfs-site.xml中增加配置

    2，在core-site.xml文件中增加

    3，同步hdfs-site.xml和core-site.xml到NN2

   4，启动

    五、测试

 

 

HDFS-HA集群配置步骤：（我已经有分布式集群的基础上（3台）做的） 

一、配置zookeeper集群，启动zookeeper的集群环境

1.    集群规划

hadoop101 

hadoop102

hadoop103

NameNode    

NameNode

 

JournalNode  

JournalNode  

JournalNode  

DataNode

DataNode

DataNode

ZK 

ZK 

ZK 

 

ResourceManager

 

NodeManager

NodeManager

NodeManager

在hadoop101、hadoop103和hadoop104三个节点上部署Zookeeper。

2.    解压安装

（1）解压Zookeeper安装包到/opt/module/目录下

[kgg@hadoop101 software]$ tar -zxvf zookeeper-3.4.10.tar.gz -C /opt/module/

（2）在/opt/module/zookeeper-3.4.10/这个目录下创建zkData

mkdir -p zkData

（3）重命名/opt/module/zookeeper-3.4.10/conf这个目录下的zoo_sample.cfg为zoo.cfg

mv zoo_sample.cfg zoo.cfg

3.    配置zoo.cfg文件

       （1）具体配置

dataDir=/opt/module/zookeeper-3.4.10/zkData

       增加如下配置

#######################cluster##########################

server.1=hadoop101:2888:3888

server.2=hadoop103:2888:3888

server.3=hadoop104:2888:3888

（2）配置参数解读

Server.A=B:C:D。

A是一个数字，表示这个是第几号服务器；

B是这个服务器的IP地址；

C是这个服务器与集群中的Leader服务器交换信息的端口；

D是万一集群中的Leader服务器挂了，需要一个端口来重新进行选举，选出一个新的Leader，而这个端口就是用来执行选举时服务器相互通信的端口。

集群模式下配置一个文件myid，这个文件在dataDir目录下，这个文件里面有一个数据就是A的值，Zookeeper启动时读取此文件，拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。

4.    集群操作

（1）在/opt/module/zookeeper-3.4.10/zkData目录下创建一个myid的文件

touch myid

（2）编辑myid文件

vi myid

       在文件中添加与server对应的编号：并分别修改myid文件中内容为：如：2、3、4（1,2,3）【随意】

（3）拷贝配置好的zookeeper到其他机器上

scp -r zookeeper-3.4.10/ root@hadoop102.kgg.com:/opt/module/

scp -r zookeeper-3.4.10/ root@hadoop103.kgg.com:/opt/module/

      

（4）分别启动zookeeper

[root@hadoop101 zookeeper-3.4.10]# bin/zkServer.sh start

[root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh start

[root@hadoop103 zookeeper-3.4.10]# bin/zkServer.sh start

（5）查看状态

[root@hadoop101 zookeeper-3.4.10]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: follower

[root@hadoop102 zookeeper-3.4.10]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: leader

[root@hadoop103 zookeeper-3.4.5]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfg

Mode: follower

二、配置HDFS-HA集群


    1，备份hadoop


        cp -r hadoop-2.7.2/ hadoop-2.7.2_bak/


    2，删除集群中另外两个节点的hadoop-2.7.2

 

        [root@hadoop102 module]#rm -rf hadoop-2.7.2

        [root@hadoop103 module]#rm -rf hadoop-2.7.2


    3，配置core-site.xml

<configuration>

<!-- 把两个NameNode）的地址组装成一个集群mycluster -->

     <property>

         <name>fs.defaultFS</name>

          <value>hdfs://mycluster</value>

     </property>

 

     <!-- 指定hadoop运行时产生文件的存储目录 -->

     <property>

         <name>hadoop.tmp.dir</name>

         <value>/opt/module/hadoop-2.7.2/data/tmp</value>

     </property>

</configuration>


    4，配置hdfs-site.xml

   

<configuration>

  <!-- 完全分布式集群名称 -->

  <property>

     <name>dfs.nameservices</name>

     <value>mycluster</value>

  </property>

 

  <!-- 集群中NameNode节点都有哪些 -->

  <property>

     <name>dfs.ha.namenodes.mycluster</name>

     <value>nn1,nn2</value>

  </property>

 

  <!-- nn1的RPC通信地址 -->

  <property>

     <name>dfs.namenode.rpc-address.mycluster.nn1</name>

     <value>hadoop101:9000</value>

  </property>

 

  <!-- nn2的RPC通信地址 -->

  <property>

     <name>dfs.namenode.rpc-address.mycluster.nn2</name>

     <value>hadoop103:9000</value>

  </property>

 

  <!-- nn1的http通信地址 -->

  <property>

     <name>dfs.namenode.http-address.mycluster.nn1</name>

     <value>hadoop101:50070</value>

  </property>

 

  <!-- nn2的http通信地址 -->

  <property>

     <name>dfs.namenode.http-address.mycluster.nn2</name>

     <value>hadoop103:50070</value>

  </property>

 

  <!-- 指定NameNode元数据在JournalNode上的存放位置 -->

  <property>

     <name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://hadoop101:8485;hadoop103:8485;hadoop104:8485/mycluster</value>

  </property>

 

  <!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->

  <property>

     <name>dfs.ha.fencing.methods</name>

     <value>sshfence</value>

  </property>

 

  <!-- 使用隔离机制时需要ssh无秘钥登录-->

  <property>

     <name>dfs.ha.fencing.ssh.private-key-files</name>

     <value>/root/.ssh/id_rsa</value>

  </property>

 

  <!-- 声明journalnode服务器存储目录-->

  <property>

     <name>dfs.journalnode.edits.dir</name>

     <value>/opt/ha/hadoop-2.7.2/data/jn</value>

  </property>

 

  <!-- 关闭权限检查-->

  <property>

     <name>dfs.permissions.enable</name>

     <value>false</value>

  </property>

 

  <!-- 访问代理类：client，mycluster，active配置失败自动切换实现方式-->

  <property>

         <name>dfs.client.failover.proxy.provider.mycluster</name>

<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

  </property>

</configuration>

 

5，把hadoop-2.7.2传输给另外两台机器（以下是两条传输命令，也可以自己编写脚本传输）

 

   rsync -rvl /opt/module/hadoop-2.7.2 root@hadoop102:/opt/module/


   rsync -rvl /opt/module/hadoop-2.7.2 root@hadoop103:/opt/module/


三、启动HDFS-HA集群


    1，删除hadoop-2.7.2中的data目录的数据

         用rm -rf data命令 


    2，每台机器都启动启动JournalNode


        sbin/hadoop-daemon.sh start journalnode


    3，在NN1上对其进行格式化，并启动   

 

         格式化：bin/hdfs namenode -format

         启动sbin/hadoop-daemon.sh start namenode


    4，在NN2上，同步nn1的元数据信息

 

        bin/hdfs namenode -bootstrapStandby


    5，启动NN2


        sbin/hadoop-daemon.sh start namenode


    6，界面查看standby状态

        查看界面会发现：两个namenode节点都是standby

 

 

 

    7，启动所有的datanode


          sbin/hadoop-daemon.sh start datanode


    8，将NN1切换为active状态


        hdfs haadmin -transitionToActive nn1

       可以再去看web界面，standby改为了active

 

    9，获取状态


        hdfs haadmin -getServiceState 节点名称(nn1或nn2)

       命令示例：hdfs haadmin -getServiceState nn1


四、配置自动故障转移


    1，在NN1上的hdfs-site.xml中增加配置


        <property>
            <name>dfs.ha.automatic-failover.enabled</name>
            <value>true</value>
        </property>


    2，在core-site.xml文件中增加


        <property>
            <name>ha.zookeeper.quorum</name>
            <value>hadoop101:2181,hadoop103:2181,hadoop104:2181</value>
        </property>


    3，同步hdfs-site.xml和core-site.xml到NN2

      

      rsync -rvl /opt/module/hadoop-2.7.2/etc/hadoop/hdfs-site.xml root@hadoop102:/opt/module/hadoop-2.7.2/etc/hadoop


      rsync -rvl /opt/module/hadoop-2.7.2/etc/hadoop/core-site.xml root@hadoop102:/opt/module/hadoop-2.7.2/etc/hadoop

 

   4，启动


    4.1，关闭hdfs服务
        sbin/stop-dfs.sh
    4.2，启动zookeeper集群
        bin/zkServer.sh start
    4.3，初始化HA在zookeeper中的状态
        bin/hdfs zkfc -formatZK
    4.4，启动hdfs服务
        sbin/start-dfs.sh


    
五、测试

 

  去查看状态或界面，将activate的NN进程kill掉，查看另一个NN进程的状态
   kill -9 namenode的进程id
 

 

 

legendary Captain
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Hadoop学习---11、HA高可用
星光不问赶路人，岁月不负有心人
05-29 986
Hadoop学习---11、HA高可用
Hadoop HA 高可用集群搭建
weixin_52356946的博客
01-10 1058
Hadoop HA高可用集群搭建
HDFS HA之NameNode状态管理切换
最新发布
maodun
04-15 429
两个namenode的名称为 namenode01 和 namenode02。在配置文件 hdfs-site.xml中。
HDFS--HA部署安装:修改配置文件 测试集群工作状态的一些指令
Maynor的博客
10-21 2729
文章目录修改配置文件测试集群工作状态的一些指令 ： 修改配置文件 /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/ 2.2.2修改core-site.xml <configuration> <!-- 集群名称在这里指定！该值来自于hdfs-site.xml中的配置 --> <property> <name>fs.defaultFS</name> <value>hdfs://cluste
Hadoop Ha (High avilable)配置
旧时明月
07-30 536
为什么要配置HDFS HA?   首先:HDFS集群中NameNode 如果存在单点故障。对于只有一个NameNode的集群，如果NameNode机器出现意外情况，将导致整个集群无法使用. 而影响HDFS集群不可用主要包括以下两种情况：一是NameNode机器宕机，将导致集群不可用，重启NameNode之后才可使用；二是计划内的NameNode节点软件或硬件升级，导致集群在短时间内
大数据框架之Hadoop：HDFS（八）HDFS HA高可用
yiluohan0307的专栏
02-15 1157
HDFS HA高可用
HadoopHA高可用集群配置 hdfs-site.xml
07-07
HadoopHA高可用集群配置 hdfs-site.xml
hdfs高可用配置文件
07-06
本文将深入探讨HDFS高可用（High Availability, HA）配置，以及如何配置相关文件以实现HA功能。 首先，HDFS HA涉及两个主要组件：NameNode和Secondary NameNode。NameNode是HDFS的元数据管理器，负责维护文件系统的...
【HDFS篇12】HA高可用 --- HDFS-HA集群配置1
08-04
1.集群规划 2.解压安装 4.集群操作 1.官方地址 2.在opt目录下创建一个ha文件夹 7.拷贝配置好的hadoop环境到其他节点 1.在各个Journa
14_尚硅谷大数据之HDFS HA高可用1
08-03
HDFS HA和YARN HA是整个Hadoop集群高可用性的两个重要组成部分。在Hadoop 2.0之前，NameNode的单点故障可能导致整个集群不可用，无论是由于硬件或软件故障，还是计划内的维护升级。 8.2 HDFS-HA工作机制： 1）双...
HadoopHA集群部署、HDFSHA配置、启动与验证教学课件.pptx
06-20
在构建高可用（HA）Hadoop集群时，HDFS（Hadoop Distributed File System）HA配置是关键步骤，目的是确保即使NameNode节点发生故障，数据访问和服务也不会中断。本教程将详细讲解如何配置、启动和验证Hadoop HA集群...
Hadoop-HA模式（详解）
热门推荐
窃格拉瓦
08-21 2万+
一、概述 之前的博客写了搭建hadoop集群环境，今天写一写搭建高可用（HA）环境。Hadoop-HA模式大致分为两个(个人在学习中的理解)： namenode 高可用 yarn 高可用 1、Namenode HA Namenode在HDFS中是一个非常重要的组件，相当于HDFS文件系统的心脏，在显示分布式集群环境中，还是会有可能出现Namenode的崩溃或各种意外。所以，高可用模...
【Hadoop】HA高可用搭建保姆级教程（大二学长的万字笔记）
你不来，再美的天地，都狼藉 ~
05-29 8491
Hadoop HA高可用搭建保姆级教程，来自正在学习大数据导论的大二学长的万字笔记，干得不能再干的干货分享！
hadoop HA概述介绍
猿猿不断的博客
11-23 3596
一、概述 （1）所谓HA（High Availablity），即高可用（7*24小时不中断服务）。 （2）实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA机制：HDFS的HA和YARN的HA。 （3）Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 （4）NameNode主要在以下两个方面影响HDFS集群 NameNode机器发生意外，如宕机，集群将无法使用，直到管理员重启 NameNode机器需要升级，包括软件、硬件升级，此时集群也将无法使用
hadoop高可用【HA】配置详解
大唐有趣的小胡.
07-31 3821
想实现 Hadoop 高可用就必须实现 NameNode 的高可用，NameNode 是HDFS的核心，HDFS 又是 Hadoop 核心组件，NameNode 在 Hadoop 集群中至关重要；NameNode 宕机，将导致集群不可用，如果NameNode数据丢失将导致整个集群的数据丢失，而 NameNode 的数据更新又比较频繁，实现 NameNode 高可用势在必行；...
hadoop+Zookeeper=HA(超级详细)
互联网知识分享
05-12 911
集群模式下配置一个文件myid，这个文件在dataDir=/softWare/zookeeper-3.4.10/zkData目录下，这个文件里面有一个数据就是A的值，Zookeeper启动时读取此文件，拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。（1）如果”主节点-A”挂了，这时候它所注册的节点”master-00001″将被自动删除，ZooKeeper会自动感知节点的变化，然后再次发出选举，这时候”主节点-B”将在选举中获胜，替代”主节点-A”成为新的主节点。
(Hdoop)HDFS—HA高可用详解
安歌Object
08-15 8766
一、HA概述 1）所谓HA（high available），即高可用（7*24小时不中断服务）。 2）实现高可用最关键的策略是消除单点故障。HA严格来说应该分成各个组件的HA 机制：HDFS的HA和YARN的HA。 3）Hadoop2.0之前，在HDFS集群中NameNode存在单点故障（SPOF）。 4）NameNode主要在以下两个方面影响HDFS集群 NameNode机器发生意外，如...
hadoop——HA集群部署
m0_65809235的博客
06-28 1163
各节点布置NameNodeDataNodeNameNodeDataNode。
HDFS HA 高可用集群搭建详细图文教程
Stars.Sky 的博客
09-04 2791
HDFS HA 高可用搭建详细图文教程
06大数据技术之Hadoop（HA）V3.2.docx
10-31
文档讲述了Hadoop在大数据环境中的高可用性（HA）配置，主要关注Hadoop分布式文件系统（HDFS）和资源调度器YARN的HA实现，以及如何在Hadoop 3.2版本中搭建和管理这样的高可用集群。以下是详细的知识点总结： 1. **...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值