Hadoop集群部署和启动与关闭_启动hadoop

2401_84181704

于 2024-04-11 20:47:12 发布

阅读量781

点赞数 11

分类专栏： 2024年程序员学习文章标签： hadoop 大数据分布式

本文链接：https://blog.csdn.net/2401_84181704/article/details/137652607

版权

2024年程序员学习专栏收录该内容

78 篇文章 0 订阅

订阅专栏

文章目录

一、安装Hadoop
二、Hadoop高可用集群配置
三、启动Hadoop高可用集群配置
四、关闭Hadoop高可用集群

Hadoop集群的部署方式分为三种，分别是独立模式（Standalone mode）、伪分布式模式（Pseudo-Distributed mode）和完全分布式模式（Cluster mode），独立模式和伪分布式模式主要用于学习和调试，完全分布式通常在实际生产环境使用。

为了提高Hadoop集群的高可用性，通常使用ZooKeeper为Hadoop集群提供自动故障转移和数据一致性服务。

首先我们先规划三台虚拟机的Hadoop高可用集群：
为了提高Hadoop集群的高可用性，集群中至少需要两个NameNode节点（一个主节点，一个备用节点）和两个ResourceManager节点 (一个主节点，一个备用节点)以满足HDFS和YARN的高可用性，同时为了满足“过半写入则成功”的原则，集群中至少需要三个 JournalNode节点。如下图所示：
在这里插入图片描述
高可用相关服务介绍作用如下：

ZKFC（ZKFailoverController）
ZooKeeper的客户端，用于监视和管理NameNode的状态，运行NameNode的每台机器都需要运行ZKFC。
ZooKeeper
表示ZooKeeper服务。
JournalNode
负责两个NameNode之间通信，JournalNode通常在DataNode节点启动。
NodeManager
执行应用程序的容器，监控应用程序的资源使用情况并且向调度器ResourceManager汇报。
ResourceManager
负责集群中所有资源的统一管理和分配，它接收来自NodeManager的资源汇报信息，并把这些信息按照一定的策略分配给各个应用程序。
DataNode
存储真实的数据文件，周期性向NameNode汇报心跳和数据块信息。
NameNode
存储元数据信息以及数据文件与数据块的对应信息。

一、安装Hadoop

下载Hadoop
访问Apache资源网站下载Linux操作系统的Hadoop安装包hadoop-2.7.4.tar.gz。

注意：还没有下载安装包的，下载地址可以去这里查看：大数据相关常用软件下载地址集锦

上传Hadoop安装包
使用SecureCRT远程连接工具连接虚拟机Spark01，在存放应用安装包的目录/export/software/下执行“rz”命令上传Hadoop安装包。
安装Hadoop
在虚拟机Spark01中，通过解压缩的方式安装Hadoop，将Hadoop安装到存放应用的目录/export/servers/。命令如下：
tar -zxvf /export/software/hadoop-2.7.4.tar.gz -C /export/servers/
配置环境变量
执行“vi /etc/profile”命令编辑系统环境变量文件profile，配置Hadoop环境变量,如下：

# Hadoop系统环境变量
export HADOOP_HOME=/export/servers/hadoop-2.7.4
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

完成系统环境变量文件profile配置后保存退出，不过此时配置内容尚未生效，还需要执行“source /etc/profile”命令初始化系统环境变量使配置内容生效。

测试
执行“hadoop version”命令查看Hadoop版本

二、Hadoop高可用集群配置

安装好Hadoop后，只读默认配置文件，包括core-default.xml、hdfs-default.xml、mapred-default.xml和yarn-default.xml，这些文件包含了Hadoop系统各种默认配置参数，位于jar文件中。

自定义配置文件，这些文件基本没有任何配置内容，存在于Hadoop安装目录下的etc/hadoop/目录中，包括core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml等，开发人员可以根据实际需求进行修改，Hadoop会优先选择自定义配置文件中的参数。

修改hadoop-env.sh文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“vi hadoop-env.sh”命令编辑hadoop-env.sh文件，将文件内默认的JAVA_HOME参数修改为本地安装JDK的路径。如下图所示：
修改yarn-env.sh文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“vi yarn-env.sh”命令编辑yarn-env.sh文件，将文件内默认的JAVA_HOME参数修改为本地安装JDK的路径。如下图所示：
修改core-site.xml文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“vi core-site.xml”命令编辑Hadoop的核心配置文件core-site.xml。如下：

<property>
    <name>fs.defaultFS</name> #配置命名空间管理服务制定通信地址
    <value>hdfs://master</value>
</property>
<property>
    <name>hadoop.tmp.dir</name> #存储临时文件的目录
    <value>/export/servers/hadoop-2.7.4/tmp</value>
</property>
<property>
    <name>ha.zookeeper.quorum</name> #ZooKeeper集群地址
    <value>spark01:2181,spark02:2181,spark03:2181</value>
</property>

修改hdfs-site.xml文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“vi hdfs-site.xml”命令编辑HDFS的核心配置文件hdfs-site.xml。

<property>
    <name>dfs.replication</name> #HDFS副本数
    <value>3</value>
</property>
<property>
    <name>dfs.namenode.name.dir</name> #NameNode 节点数据（即元数据）的存放位置
    <value>/export/data/hadoop/namenode</value>
</property>
<property>    
    <name>dfs.datanode.data.dir</name>    #DataNode 节点数据（即数据块）的存放位置
    <value>/export/data/hadoop/datanode</value>    
</property>
<property>
    <name>dfs.nameservices</name> #处理外部访问HDFS的请求
    <value>master</value>
</property>
<property>
    <name>dfs.ha.namenodes.master</name> #定义每个NameNode节点的唯一标识符
    <value>nn1,nn2</value>
</property>
<property>
    <name>dfs.namenode.rpc-address.master.nn1</name> #标识符nn1的RPC服务地址
    <value>spark01:9000</value>
</property>
<property>
    <name>dfs.namenode.rpc-address.master.nn2</name> #标识符nn2的RPC服务地址
    <value>spark02:9000</value>
</property>
<property>
    <name>dfs.namenode.http-address.master.nn1</name>#标识符nn1的HTTP服务地址
    <value>spark01:50070</value>
</property>
<property>
    <name>dfs.namenode.http-address.master.nn2</name>#标识符nn2的HTTP服务地址
    <value>spark02:50070</value>
</property>
<property>
  <name>dfs.namenode.shared.edits.dir</name>#NameNode元数据在JournalNode上的共享存储目录
  <value>qjournal://spark01:8485;spark02:8485;spark03:8485/master</value>
</property>
<property>
    <name>dfs.journalnode.edits.dir</name>#JournalNode存放数据地址
    <value>/export/data/hadoop/journaldata</value>
</property>
<property>
  <name>dfs.client.failover.proxy.provider.master</name>#访问代理类，用于确定当前处于 Active 状态的 NameNode节点
  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<property>
    <name>dfs.ha.fencing.methods</name>#配置隔离机制，确保集群中只有一个NameNode处于活动状态
    <value>
        sshfence
        shell(/bin/true)
    </value>
</property>
<property>
    <name>dfs.ha.fencing.ssh.private-key-files</name>#sshfence隔离机制需要配置本机密钥地址
    <value>/root/.ssh/id_rsa</value>
</property>
<property>
    <name>dfs.ha.automatic-failover.enabled</name>#开启自动故障状态切换
    <value>true</value>
 </property>
<property>
	<name>dfs.ha.fencing.ssh.connect-timeout</name>#sshfence隔离机制超时时间
	<value>30000</value>
</property>
<property> 
	<name>dfs.webhdfs.enabled</name> #开启webhdfs服务
	<value>true</value> 
</property>

修改mapred-site.xml文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“cp mapred-site.xml.template mapred-site.xml”命令，通过复制模板文件方式创建MapReduce
的核心配置文件mapred-site.xml，执行“vi mapred-site.xml”命令编辑配置文件
mapred-site.xml ，指定MapReduce运行时框架。如下：

<property>
      <name>mapreduce.framework.name</name>#指定MapReduce 作业运行在 YARN框架之上
      <value>yarn</value>
</property>

修改yarn-site.xml文件
在虚拟机Spark01中，进入Hadoop安装包的/etc/hadoop/目录，执行“cp yarn-site.xml”命令，编辑YARN的核心配置文件yarn-site.xml。如下：

<property>
    <name>yarn.nodemanager.aux-services</name>#配置NodeManager上运行的附属服务，需要配置为mapreduce_shuffle
    <value>mapreduce_shuffle</value>
</property>
<property>
    <name>yarn.resourcemanager.ha.enabled</name>#开启ResourceManager的HA机制
    <value>true</value>
</property>
<property>
    <name>yarn.resourcemanager.cluster-id</name>#自定义ResourceManager集群的标识符
    <value>yarncluster</value>
</property>
<property>
    <name>yarn.resourcemanager.ha.rm-ids</name>#自定义集群中每个ResourceManager节点的唯一标识符
    <value>rm1,rm2</value>
</property>
<property>
    <name>yarn.resourcemanager.hostname.rm1</name>#指定标识符rm1的ResourceManager节点
    <value>spark01</value>
</property>
<property>
    <name>yarn.resourcemanager.hostname.rm2</name>#指定标识符rm2的ResourceManager节点
    <value>spark02</value>
</property>
<property>
    <name>yarn.resourcemanager.zk-address</name>#ZooKeeper集群地址
    <value>spark01:2181,spark02:2181,spark03:2181</value>
</property>
<property>
    <name>yarn.resourcemanager.recovery.enabled</name>#开启自动恢复功能
    <value>true</value>
</property>
<property>
      <name>yarn.resourcemanager.ha.automatic-failover.enabled</name>#开启故障自动转移
      <value>true</value>
</property>
<property>
    <name>yarn.resourcemanager.store.class</name>#ResourceManager存储信息的方式，在HA机制下用ZooKeeper（ZKRMStateStore）作为存储介质
    <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>


**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数大数据工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。**
![img](https://img-blog.csdnimg.cn/img_convert/2c6bb9bae4cb7571b63afa34a74c6be7.png)
![img](https://img-blog.csdnimg.cn/img_convert/fc424f31076ff88ad4ffd6b425e1945b.png)
![img](https://img-blog.csdnimg.cn/img_convert/cbe667bc3b89f08e6d89e71888ace3a2.png)
![img](https://img-blog.csdnimg.cn/img_convert/b05c215f18f870519f6cbfa8819945fd.png)
![img](https://img-blog.csdnimg.cn/img_convert/674ee1748911fca240450cffecdf38e8.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
![img](https://img-blog.csdnimg.cn/img_convert/ab043ea8625e4c67e3eb8e90af5f06d9.png)

.(img-1Pkrosjd-1712839557553)]

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上大数据开发知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注大数据获取）**
[外链图片转存中...(img-VHVj24Gs-1712839557553)]

2401_84181704

关注

11
点赞
踩
22

收藏

觉得还不错? 一键收藏
0
评论
Hadoop集群部署和启动与关闭_启动hadoop

自定义配置文件，这些文件基本没有任何配置内容，存在于Hadoop安装目录下的etc/hadoop/目录中，包括core-site.xml、hdfs-site.xml、mapred-site.xml和yarn-site.xml等，开发人员可以根据实际需求进行修改，Hadoop会优先选择自定义配置文件中的参数。为了提高Hadoop集群的高可用性，通常使用ZooKeeper为Hadoop集群提供自动故障转移和数据一致性服务。完成系统环境变量文件profile配置后保存退出，不过此时配置内容尚未生效，还需要执行“
复制链接

扫一扫