大数据hadoop集群安装部署

最新推荐文章于 2024-04-27 23:53:24 发布
最新推荐文章于 2024-04-27 23:53:24 发布
阅读量3.2k 收藏 2
点赞数 7
分类专栏： Hadoop
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42518541/article/details/102842053
版权

目录

准备工作

- 准备一台linux环境
- 虚拟机联网，关闭防火墙，关闭selinux
- 安装jdk

CDH 分布式环境搭建

- 第一步：上传压缩包并解压
- 第二步：查看Hadoop支持的压缩方式以及本地库
- 第三步：修改配置文件
- 第四步：创建文件存放目录
- 第五步：安装包的分发
- 第六步：配置Hadoop的环境变量
- 第七步：集群启动
- 第八步：浏览器查看启动页面

准备工作

准备一台linux环境

准备一台linux环境，内存4G或以上，硬盘40G或以上，我们这里使用的是Centos6.9 64位的操作系统（注意：一定要使用64位的操作系统）

虚拟机联网，关闭防火墙，关闭selinux

关闭防火墙命令：

service iptables stop
chkconfig iptables off

关闭selinux

vim /etc/selinux/config

在这里插入图片描述

安装jdk

Linux CentOS 操作系统中安装jdk步骤

查看centos6.9自带的openjdk

rpm -qa | grep java

在这里插入图片描述
在这里插入图片描述
将所有这些openjdk全部卸载掉

rpm -e java-1.6.0-openjdk-1.6.0.41-1.13.13.1.el6_8.x86_64 tzdata-java-2016j-1.el6.noarch java-1.7.0-openjdk-1.7.0.131-2.6.9.0.el6_8.x86_64

统一两个路径

mkdir -p /export/servers
mkdir -p /export/softwares

CDH 分布式环境搭建

安装环境服务部署规划

在这里插入图片描述

第一步：上传压缩包并解压

将我们重新编译之后支持snappy压缩的Hadoop包上传到第一台服务器并解压
第一台机器执行以下命令

cd /export/softwares/

mv hadoop-2.6.0-cdh5.14.0-自己编译后的版本.tar.gz hadoop-2.6.0-cdh5.14.0.tar.gz

tar -zxvf hadoop-2.6.0-cdh5.14.0.tar.gz -C …/servers/

第二步：查看Hadoop支持的压缩方式以及本地库

第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0
bin/hadoop checknative

在这里插入图片描述
如果出现openssl为false，那么所有机器在线安装openssl即可，执行以下命令，虚拟机联网之后就可以在线进行安装了

yum -y install openssl-devel

在这里插入图片描述

第三步：修改配置文件

  • 修改core-site.xml

第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
vim core-site.xml

<configuration>
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://node01:8020</value>  	<!--  node01是用户的名字记得改成自己的-->
	</property>
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas</value>
		<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	<!--  缓冲区大小，实际工作中根据服务器性能动态调整 -->
	<property>
		<name>io.file.buffer.size</name>
		<value>4096</value>
	</property>

	<!--  开启hdfs的垃圾桶机制，删除掉的数据可以从垃圾桶中回收，单位分钟 -->
	<property>
		<name>fs.trash.interval</name>
		<value>10080</value>
	</property>
</configuration>

修改hdfs-site.xml
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
vim hdfs-site.xml

<configuration>
	<!-- NameNode存储元数据信息的路径，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割   --> 
	<!--   集群动态上下线 
	<property>
		<name>dfs.hosts</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/accept_host</value>
			<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	
	<property>
		<name>dfs.hosts.exclude</name>
		<value>/export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop/deny_host</value>	
		<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	 -->
	 
	 <property>
			<name>dfs.namenode.secondary.http-address</name>
			<value>node01:50090</value><!--  node01是用户的名字记得改成自己的-->
	</property>

	<property>
		<name>dfs.namenode.http-address</name>
		<value>node01:50070</value>
	</property>
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas</value>
			<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	<!--  定义dataNode数据存储的节点位置，实际工作中，一般先确定磁盘的挂载目录，然后多个目录用，进行分割  -->
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas</value>
			<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	
	<property>
		<name>dfs.namenode.edits.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits</value>	
		<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	<property>
		<name>dfs.namenode.checkpoint.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name</value>
			<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	<property>
		<name>dfs.namenode.checkpoint.edits.dir</name>
		<value>file:///export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits</value>
			<!-- 这里是 hadoop的安装路径/export/servers/ 如为按照以上的路径来创建记得修改-->
	</property>
	<property>
		<name>dfs.replication</name>
		<value>2</value>
	</property>
	<property>
		<name>dfs.permissions</name>
		<value>false</value>
	</property>
<property>
		<name>dfs.blocksize</name>
		<value>134217728</value>
	</property>
</configuration>

修改Hadoop-env.sh
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
vim hadoop-env.sh

export JAVA_HOME=/export/servers/jdk1.8.0_141

在这里插入图片描述

修改mapred-site.xml
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
cp mapred-site.xml.template mapred-site.xml
vim mapred-site.xml

<configuration>
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>

	<property>
		<name>mapreduce.job.ubertask.enable</name>
		<value>true</value>
	</property>
	
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>node01:10020</value>
	</property>

	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>node01:19888</value>
	</property>
</configuration>

修改yarn-site.xml
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
vim yarn-site.xml

<configuration>
	<property>
		<name>yarn.resourcemanager.hostname</name>
		<value>node01</value>
	</property>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
</configuration>

修改slaves文件
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/etc/hadoop
vim slaves

node01
node02
node03

第四步：创建文件存放目录

第一台机器执行以下命令
node01机器上面创建以下目录

mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/tempDatas
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/namenodeDatas
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/datanodeDatas 
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/edits
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/snn/name
mkdir -p /export/servers/hadoop-2.6.0-cdh5.14.0/hadoopDatas/dfs/nn/snn/edits

第五步：安装包的分发

第一台机器执行以下命令

cd /export/servers/

scp -r hadoop-2.6.0-cdh5.14.0 node02:$PWD
scp -r hadoop-2.6.0-cdh5.14.0 node03:$PWD

第六步：配置Hadoop的环境变量

三台机器都要进行配置Hadoop的环境变量
三台机器执行以下命令

vim /etc/profile.d/hadoop.sh

export HADOOP_HOME=/export/servers/hadoop-2.6.0-cdh5.14.0
export PATH=:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

配置完成之后生效

source /etc/profile

第七步：集群启动

要启动 Hadoop 集群，需要启动 HDFS 和 YARN 两个集群。
注意：首次启动HDFS时，必须对其进行格式化操作。本质上是一些清理和准备工作，因为此时的 HDFS 在物理上还是不存在的。

cd /export/servers/hadoop-2.6.0-cdh5.14.0/
bin/hdfs namenode -format或者bin/hadoop namenode –format

在这里插入图片描述
单个节点逐一启动
在主节点上使用以下命令启动 HDFS NameNode： Hadoop-daemon.sh start namenode
在每个从节点上使用以下命令启动 HDFS DataNode： Hadoop-daemon.sh start datanode
在主节点上使用以下命令启动 YARN ResourceManager： yarn-daemon.sh start resourcemanager
在每个从节点上使用以下命令启动 YARN nodemanager： yarn-daemon.sh start nodemanager

以上脚本位于$HADOOP_PREFIX/sbin/目录下。如果想要停止某个节点上某个角色，只需要把命令中的start 改为stop 即可。

脚本一键启动HDFS、Yarn

如果配置了 etc/Hadoop/slaves 和 ssh 免密登录，则可以使用程序脚本启动所有Hadoop 两个集群的相关进程，在主节点所设定的机器上执行。
启动集群

node01节点上执行以下命令
第一台机器执行以下命令

cd /export/servers/hadoop-2.6.0-cdh5.14.0/
sbin/start-dfs.sh
sbin/start-yarn.sh

停止集群：没事儿不要去停止集群

sbin/stop-dfs.sh
sbin/stop-yarn.sh

脚本一键启动所有
一键启动集群

sbin/start-all.sh

一键关闭集群

sbin/stop-all.sh

jps

当在第一台输入jps能看到如图所示就表示第一台机器成功了
在这里插入图片描述
在这里插入图片描述
当在第二，三台输入jps能看到如图所示表示第二和三台成功了

第八步：浏览器查看启动页面

hdfs集群访问地址： http://192.168.52.100:50070/dfshealth.html#tab-overview

在这里插入图片描述

yarn集群访问地址： http://192.168.52.100:8088/cluster

在这里插入图片描述

相信人的一生中成功不缺机遇,只要抓住机遇,积极向上,空杯心态学习,行动,定会成功!!!

小Huya
关注
专栏目录
Hadoop集群安装部署
qq_45769990的博客
10-06 9882
hadoop集群安装部署 1、服务器主机名和IP配置（三台） 2、修改每个主机的/etc/hosts文件，添加IP和主机名的对应关系（三台） 3、管理节点到从节点配置无密码登录 4、配置jdk 1.8（三台） 5、关闭防火墙（三台） 6、关闭selinux（三台） vi /etc/selinux/config SELINUX=enforcing SELINUX=disabled 重启系统 安装流程 1、上传软件包到管理节点，在管理节点解压并配置 2、将修改完
Hadoop入门基础（二）：Hadoop集群安装与部署详解（超详细教程）
最新发布
zcs_978176963的博客
08-20 964
本文涵盖了从设置主机名、配置SSH免密登录、安装Java环境到Hadoop配置与启动的详细步骤。通过这些步骤，你可以成功搭建一个Hadoop集群，为大数据学习和实际应用打下坚实的基础。下一步，你可以尝试配置高可用性或对集群进行性能优化。
Hadoop集群环境配置及安装配置（详细过程包含安装包）
热门推荐
2202_75347029的博客
07-07 4万+
进入到网络配置文件中。快照，是对虚拟机的当前状态进行保存，在虚拟机出现问题无法解决，可以通过返回快照，使虚拟机返回到快照拍摄状态。4.配置jdk软连接 命令：ln -s /export/servers/jdk1.8.0_361 /export/servers/jdk。3.选择克隆对象，一共有两种方式，第一种是直接克隆虚拟机的当前状态，第二种是选取虚拟机的快照，克隆指定快照的虚拟机状态。构建软连接： ln -s /export/servers/jdk/bin/java /usr/bin/java。
大数据Hadoop安装部署文档
04-21
- 使用`hadoop jar`命令提交作业到Hadoop集群。 - **查看结果** - 通过Hadoop UI查看作业执行状态和结果。 以上就是Hadoop在Windows和Linux上伪分布式安装的详细步骤，以及如何集成Eclipse开发环境、使用Hadoop ...
大数据hadoop集群部署-最详细的部署-2.8.5.pdf
05-17
通常配置奇数个JournalNode，这里还配置了一个Zookeeper集群，用于ZKFC故障转移，当Active NameNode挂掉了，会自动切换Standby NameNode为Active状态。 YARN的ResourceManager也存在单点故障问题，这个问题在hadoop-...
大数据Hadoop集群部署：从开始的jdk安装到zookeeper集群的搭建
小白要变小黑的博客
11-11 1133
大数据Hadoop集群部署：从开始的jdk安装到zookeeper集群的搭建 前提准备：centos7，jdk，zookeeper，Hadoop的压缩包，上传文件的工具winscp. 1.Jdk的安装 （1）关闭防火墙（2台都进行） Systemctl stop firewalld 停止防火墙 Systemctl disable f...
Hadoop大数据集群搭建（超详细）_hadoop集群搭建(1)
2401_84181070的博客
04-27 1107
打开C:\Windows\System32\drivers\etc下的hosts文件,添加以下内容（注：如果没有notepad++这类软件，可以通过记事本保存在其他位置，然后拖动到该文件夹下）Hadoop的JAVA_HOME版本设置未更改，例如未去掉注释等，三台虚拟机全都改好后重启hdfs和yarn。Hadoop的JAVA_HOME版本设置未更改，例如未去掉注释等，三台虚拟机全都改好后重启hdfs和yarn。执行该程序（参考下文中可能遇到的问题，问题1、2为必现问题，建议直接修改）
hadoop集群部署
Cat God 007的博客
04-19 7350
hadoop简介 Hadoop是一个由Apache基金会所开发的分布式系统基础架构, 是一个存储系统+计算框架的软件框架，主要解决海量数据存储与计算的问题，是大数据技术中的基石。 Hadoop以一种可靠、高效、可伸缩的方式进行数据处理，用户可以在不了解分布式底层细节的情况下，开发分布式程序，用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。 Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。 hadoo
企业大数据部署 Hadoop的新选择
大数据学习中心
05-15 231
直至今日，企业虽然认识到大数据分析能给企业带来发展的价值，但传统的数据管理和安全问题已经阻碍了大数据的部署。 企业在什么情况下适合大数据，这是由企业处于发展中的位置决定的。 许多提供大数据业务的厂商肯定都争相想做企业的生意。毕竟，大的数据不是最小的数据集合，但大数据需要充分利用尽可能多的数据管理。如果你正在寻找一个部署大数据的定义，这却不是完整的定义。你需要一个增长的数据中心基础设施相匹配所有...
Hadoop教程(五)Hadoop分布式集群部署安装
yuan_xw的专栏
04-17 1万+
在hadoop2.0中通常由两个NameNode组成，一个处于active状态，另一个处于standby状态。Active NameNode对外提供服务，而Standby NameNode则不对外提供服务，仅同步activenamenode的状态，以便能够在它失败时快速进行切换。 hadoop2.0官方提供了两种HDFS HA的解决方案，一种是NFS，另一种是QJM。这里我们使用简单的QJM。在该方案中，主备NameNode之间通过一组JournalNode同步元数据信息，一条数据只要成功写入多数J
hadoop集群部署教程
zcs2312852665的博客
03-09 2949
本文介绍了如何安装和配置Hadoop，一个用于分布式存储和处理大规模数据的开源框架。通过按照本文提供的步骤，您可以在自己的机器上搭建一个Hadoop伪集群，并通过浏览器访问Hadoop的管理页面。本文详细介绍了安装准备、安装JDK、安装Hadoop、修改配置文件、格式化文件系统以及启动Hadoop的步骤。hadoop的只读默认配置文件位于安装目录下的目录。通过本文的指导，您已经学会了如何安装和配置Hadoop，并搭建了一个Hadoop伪集群。
初识大数据之Hadoop部署
weixin_43800781的博客
01-22 718
大数据 随着信息的增长，互联网，物联网建设的加快，信息增长的速度飞快。但是收集、检索、统计这些信息很困难，必须使用新的技术来解决这些问题，这就是诞生了大数据。 大数据指无法在一定时间范围内用常规软件工具进行捕捉，管理和处理的数据集合，需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。 也指从各种各样类型的数据中，快速获取有价值的信息。 用途： ...
从零开始大数据——部署一个Hadoop环境
仅次于狼的博客
06-19 598
目标：用虚拟机模拟部署两个节点的Hadoop环境并做集群。安装前的准备下载Linux环境、Hadoop和JDK，我的版本是：CentOS-7-x86_64-DVD-1511.iso、hadoop-2.8.4.tar.gz，JDK使用jdk-7u80-linux-x64.tar.gz，虚拟机使用VMware Workstation Pro 12.0，新建一个虚拟机安装CentOS-7，网络设置为NE...
hadoop集群安装思路
konstantin的博客
09-03 334
这几天试了一下集群的完全分布式，首先是用的是Ambari，装到了最后，在Ambari上host confirm出错了，不知道哪里不对了，后面还要看别的教程上还要下好多东西； 在里面装的坑有以下几点： mysql中创建的Ambari用户和Ambari数据库，Ambari的密码不识别，在ambari-server setup时中log中看见的，还有不能识别主机名hmc，而是要写localhost才
Hadoop集群搭建
qq_41537880的博客
03-09 1961
hadoop自学搭建，实战记录
CDH大数据集群环境安装部署指南
资源摘要信息:"CDH安装手册.rar_cdH_hadoop_hadoop安装手册_大数据_安装部署" 在当前信息化快速发展的时代，大数据技术已经成为企业与组织构建核心竞争力的关键要素。Hadoop，作为一种开源的大数据处理框架，因其...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值