hadoop集群高可用配置及问题（上）

最新推荐文章于 2024-03-18 22:54:58 发布

狮子王K

最新推荐文章于 2024-03-18 22:54:58 发布

阅读量929

点赞数

文章标签： hadoop 大数据 hdfs

本文链接：https://blog.csdn.net/KingLionfzj/article/details/127989158

版权

1.实现HA：（1）hdfs;(2)yarn

2.实现hdfs高可用，需要消除namenode单节点故障（通过配置多个namenode实现）

3.hdfs-HA的工作机制：

（1）元数据管理方式

内存中各自保存一份元数据；

Edits日志只有Active状态的NameNode节点可以做写操作；

所有的NameNode都可以读取Edits；

共享的Edits放在一个共享存储中管理（qjournal和NFS两个主流实现）；

（2）需要一个状态管理功能模块

实现了一个zkfailover服务，常驻在每一个namenode所在的节点，每一个zkfailover负责监控自己所在NameNode节点，利用zk进行状态标识，当需要进行状态切换时，由zkfailover来负责切换，切换时需要防止brain split现象的发生。

注：脑裂现象：同一时刻有两个NameNode对外提供服务

（3）自动故障转移

自动故障转移为HDFS部署增加了两个新组件：ZooKeeper和ZKFailoverController（ZKFC）进程，如图3-20所示。ZooKeeper是维护少量协调数据，通知客户端这些数据的改变和监视客户端故障的高可用服务。HA的自动故障转移依赖于ZooKeeper的以下功能：

①故障检测：集群每个NameNode在ZooKeeper中维护了一个会话，若宕机，zookeeper会话终止，zookeeper通知另一个NameNode需要触发故障转移

②现役namenode选择：ZooKeeper提供了一个简单的机制用于唯一的选择一个节点为active状态。如果目前现役NameNode崩溃，另一个节点可能从ZooKeeper获得特殊的排外锁以表明它应该成为现役NameNode。ZKFC是自动故障转移中的另一个新组件，是ZooKeeper的客户端，也监视和管理NameNode的状态。每个运行NameNode的主机也运行了一个ZKFC进程，ZKFC负责：健康监测、ZooKeeper会话管理

4.规划集群

bigdata1	bigdata2	bigdata3
NameNode	NameNode	NameNode
JournalNode	JournalNode	JournalNode
DataNode	DataNode	DataNode
ZKFC	ZKFC	ZKFC
ZK	ZK	ZK
ResourceManager	ResourceManager
NodeManager	NodeManager	NodeManager

（1）zookeeper集群

①解压安装zookeeper：

解压Zookeeper安装包到/app/opt/目录下

在/app/opt/apache-zookeeper-3.5.7-bin/这个目录下创建zkData

重命名/app/opt/apache-zookeeper-3.5.7-bin/conf这个目录下的zoo_sample.cfg为zoo.cfg

②配置zoo.cfg文件

③在/app/opt/apache-zookeeper-3.5.7-bin/zkData目录下创建一个myid的文件并编辑（在linux中操作添加文件）

在文件中添加与server对应的编号：1

④拷贝配置好的zookeeper到其他机器上，并分别修改myid文件中内容为2、3

⑤分别启动zookeeper

⑥查看状态

（2）HDFS-HA 集群

①配置core-site.xml

<configuration>
<!-- 把多个NameNode的地址组装成一个集群mycluster -->
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://mycluster</value>
  </property>
<!-- 指定hadoop运行时产生文件的存储目录 -->
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/app/opt/hadoop-3.1.3/data</value>
  </property>
    <property>
        <name>hadoop.http.staticuser.user</name>
        <value>bigdata</value>
    </property>
    <property>
        <name>hadoop.proxyuser.bigdata.hosts</name>
        <value>*</value>
    </property>
    <property>
        <name>hadoop.proxyuser.bigdata.groups</name>
        <value>*</value>
    </property>
    <property>
        <name>hadoop.proxyuser.bigdata.users</name>
        <value>*</value>
    </property>
</configuration>

②配置hdfs-site.xml

<configuration>
<!-- NameNode数据存储目录 -->
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>file://${hadoop.tmp.dir}/name</value>
  </property>
<!-- DataNode数据存储目录 -->
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>file://${hadoop.tmp.dir}/data</value>
  </property>
<!-- JournalNode数据存储目录 -->
  <property>
    <name>dfs.journalnode.edits.dir</name>
    <value>${hadoop.tmp.dir}/jn</value>
  </property>
<!-- 完全分布式集群名称 -->
  <property>
    <name>dfs.nameservices</name>
    <value>mycluster</value>
  </property>
<!-- 集群中NameNode节点都有哪些 -->
  <property>
    <name>dfs.ha.namenodes.mycluster</name>
    <value>nn1,nn2,nn3</value>
  </property>
<!-- NameNode的RPC通信地址 -->
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn1</name>
    <value>bigdata1:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn2</name>
    <value>bigdata2:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.mycluster.nn3</name>
    <value>bigdata3:8020</value>
  </property>
<!-- NameNode的http通信地址 -->
  <property>
    <name>dfs.namenode.http-address.mycluster.nn1</name>
    <value>bigdata1:9870</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.mycluster.nn2</name>
    <value>bigdata2:9870</value>
  </property>
  <property>
    <name>dfs.namenode.http-address.mycluster.nn3</name>
    <value>bigdata3:9870</value>
  </property>
<!-- 指定NameNode元数据在JournalNode上的存放位置 -->
  <property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://bigdata1:8485;bigdata2:8485;bigdata3:8485/mycluster</value>
  </property>
<!-- 访问代理类：client用于确定哪个NameNode为Active -->
  <property>
    <name>dfs.client.failover.proxy.provider.mycluster</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
<!-- 配置隔离机制，即同一时刻只能有一台服务器对外响应 -->
  <property>
    <name>dfs.ha.fencing.methods</name>
    <value>sshfence</value>
  </property>
<!-- 使用隔离机制时需要ssh秘钥登录-->
  <property>
    <name>dfs.ha.fencing.ssh.private-key-files</name>
    <value>/home/bigdata/.ssh/id_rsa</value>
  </property>
</configuration>

③配置hadoop-env.sh

配置works

④将配置好的hadoop分发到bigdata2和bigdata3

⑤在bigdata1,bigdata2,bigdata3上分别启动journalnode服务

⑥在[nn1]上，hdfs格式化

格式化控制台打印信息error：

未解决：尝试在core-site.xml配置文件中添加：

<!-- NN连接JN重试次数，默认是10次 -->

<property>

  <name>ipc.client.connect.max.retries</name>

  <value>20</value>

</property>

<!-- 重试时间间隔，默认1s -->

<property>

  <name>ipc.client.connect.retry.interval</name>

  <value>5000</value>

</property>

添加完重新启动问题还存在。。。

⑦启动namenode