Linux Centos7安装hadoop3.x安装流程（跪舔文）

最新推荐文章于 2024-05-03 06:47:59 发布
最新推荐文章于 2024-05-03 06:47:59 发布
阅读量994 收藏 5
点赞数 1
分类专栏： 大数据 文章标签： hadoop 大数据 linux java hdfs
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35349982/article/details/103903392
版权

苦战了18个小时，终于祭出了一片记叙文！

在这里我只想说：在本机装虚拟机搞hadoop跟在云服务器上真的不一样。。。

开始：

Ps: 在看这里的时候，你的java环境应该已经配置了

1.系统环境配置

1.1 下载hadoop，我这里使用3.x版本

下载hadoop地址地址：http://mirror.bit.edu.cn/apache/hadoop/common/

1.2 先关闭防火墙

systemctl stop firewalld.service #停止防火墙

(仅供参考)centos7的方式：

systemctl stop firewalld.service #停止防火墙
systemctl start firewalld.service #开启防火墙
systemctl status firewalld.service #查看防火墙状态
systemctl enable firewalld.service #开机自启 “启用”
systemctl disable firewalld.service #开机自启 “禁用”

1.3配置系统文件的host

网上几乎所有的文章都没说这个，哎，踩了好久

1.3.1进入host文件
vim /etc/hosts
1.3.2修改添加配置（node1是接下来要用的）
0.0.0.0 node1

在这里插入图片描述

2.配置hadoop

2.1 解压

我把hadoop放到了 /usr/local/src/hadoop 目录下
在这里插入图片描述

tar xzvf hadoop-3.1.1.tar.gz

2.2 修改hadoop配置文件

进入hadoop-3.1.1/etc/hadoop中

cd /usr/local/src/hadoop/hadoop-3.1.1/etc/hadoop

2.3修改core-site.xml(写入到configuration标签中)

<configuration>
    <property>
		<name>fs.defaultFS</name>
		<value>hdfs://node1:8020</value>
	</property>
	<!-- 临时文件存储目录 根据自己的目录调整 -->
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/usr/local/src/hadoop/hadoop-3.1.1/datas/tmp</value>
	</property>
    <!--  缓冲区大小，实际工作中根据服务器性能动态调整 -->
	<property>
		<name>io.file.buffer.size</name>
		<value>8192</value>
	</property>
    <!--  开启hdfs的垃圾桶机制，删除掉的数据可以从垃圾桶中回收，单位分钟 -->
	<property>
		<name>fs.trash.interval</name>
		<value>10080</value>
	</property>
</configuration>

2.4修改 hadoop-env.sh 文件

在文件头部加上以下内容（注意替换java的环境目录）

export HDFS_NAMENODE_USER="root"
export HDFS_DATANODE_USER="root"
export HDFS_SECONDARYNAMENODE_USER="root"
export YARN_RESOURCEMANAGER_USER="root"
export YARN_NODEMANAGER_USER="root"
export JAVA_HOME=/usr/local/src/java/jdk1.8.0_141

如图：
在这里插入图片描述

2.5修改hdfs-site.xml(写入到configuration标签中)

注意：修改为自己的文件的存储路径

<configuration>
        <!--namenode元数据存放目录-->
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/namenode/namenodedatas</value>
	</property>
    <!--设置文件的块大小-->
	<property>
		<name>dfs.blocksize</name>
		<value>134217728</value>
	</property>
	<property>
		<name>dfs.namenode.handler.count</name>
		<value>10</value>
	</property>
    <!--datanode数据存放目录-->
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/datanode/datanodeDatas</value>
	</property>
      <!--通过浏览器访问hdfs的端口-->
	<property>
		<name>dfs.namenode.http-address</name>
		<value>node1:50070</value>
	</property>
       <!--设置文件的副本数-->
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
      <!--设置hdfs的权限访问-->
	<property>
		<name>dfs.permissions.enabled</name>
		<value>false</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.edits.dir</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/snn/edits</value>
	</property>
	<property>
		<name>dfs.namenode.secondary.http-address</name>
		<value>node1:50090</value>
	</property>
     <!--日志文件的存放路径-->
	<property>
		<name>dfs.namenode.edits.dir</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/edits</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.dir</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/snn/name</value>
	</property>
</configuration>

2.6修改mapred-site.xml(写入到configuration标签中)

注意：修改为自己的文件的存储路径

<configuration>
    <!--指定框架-->
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	<property>
		<name>mapreduce.map.memory.mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>mapreduce.map.java.opts</name>
		<value>-Xmx512M</value>
	</property>
	<property>
		<name>mapreduce.reduce.memory.mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>mapreduce.reduce.java.opts</name>
		<value>-Xmx512M</value>
	</property>
	<property>
		<name>mapreduce.task.io.sort.mb</name>
		<value>256</value>
	</property>
	<property>
		<name>mapreduce.task.io.sort.factor</name>
		<value>100</value>
	</property>
	<property>
		<name>mapreduce.reduce.shuffle.parallelcopies</name>
		<value>25</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>node1:10020</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>node1:19888</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.intermediate-done-dir</name>
		<value>/usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.done-dir</name>
		<value>/usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/DoneDatas</value>
	</property>
	<property>
	  <name>yarn.app.mapreduce.am.env</name>
	  <value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1</value>
	</property>
	<property>
	  <name>mapreduce.map.env</name>
	  <value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1/</value>
	</property>
	<property>
	  <name>mapreduce.reduce.env</name>
	  <value>HADOOP_MAPRED_HOME=/usr/local/src/hadoop/hadoop-3.1.1</value>
	</property>
</configuration>

2.7yarn-site.xml(写入到configuration标签中)

注意：修改为自己的文件的存储路径

<configuration>
	<property>
		<name>dfs.namenode.handler.count</name>
		<value>100</value>
	</property>
	<property>
		<name>yarn.log-aggregation-enable</name>
		<value>true</value>
	</property>
	<property>
		<name>yarn.resourcemanager.address</name>
		<value>node1:8032</value>
	</property>
	<property>
		<name>yarn.resourcemanager.scheduler.address</name>
		<value>node1:8030</value>
	</property>
	<property>
		<name>yarn.resourcemanager.resource-tracker.address</name>
		<value>node1:8031</value>
	</property>
	<property>
		<name>yarn.resourcemanager.admin.address</name>
		<value>node1:8033</value>
	</property>
	<property>
		<name>yarn.resourcemanager.webapp.address</name>
		<value>node1:8088</value>
	</property>
	<property>
		<name>yarn.resourcemanager.hostname</name>
		<value>node1</value>
	</property>
	<property>
		<name>yarn.scheduler.minimum-allocation-mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>yarn.scheduler.maximum-allocation-mb</name>
		<value>2048</value>
	</property>
	<property>
		<name>yarn.nodemanager.vmem-pmem-ratio</name>
		<value>2.1</value>
	</property>
	<!-- 设置不检查虚拟内存的值，不然内存不够会报错 -->
	<property>
		<name>yarn.nodemanager.vmem-check-enabled</name>
		<value>false</value>
	</property>
	<property>
		<name>yarn.nodemanager.resource.memory-mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>yarn.nodemanager.resource.detect-hardware-capabilities</name>
		<value>true</value>
	</property>
	<property>
		<name>yarn.nodemanager.local-dirs</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas</value>
	</property>
	<property>
		<name>yarn.nodemanager.log-dirs</name>
		<value>file:///usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs</value>
	</property>
	<property>
		<name>yarn.nodemanager.log.retain-seconds</name>
		<value>10800</value>
	</property>
	<property>
		<name>yarn.nodemanager.remote-app-log-dir</name>
		<value>/usr/local/src/hadoop/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs</value>
	</property>
	<property>
		<name>yarn.nodemanager.remote-app-log-dir-suffix</name>
		<value>logs</value>
	</property>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	<property>
		<name>yarn.log-aggregation.retain-seconds</name>
		<value>18144000</value>
	</property>
	<property>
		<name>yarn.log-aggregation.retain-check-interval-seconds</name>
		<value>86400</value>
	</property>
	<!-- yarn上面运行一个任务，最少需要1.5G内存，虚拟机没有这么大的内存就调小这个值，不然会报错 -->
	<property>
        <name>yarn.app.mapreduce.am.resource.mb</name>
        <value>800</value>
	</property>
</configuration>

2.8worker文件

node1

在这里插入图片描述

2.9刚才在文件中设置很多文件的存储，现在创建文件

直接复制执行就好了

mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/tmp
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/snn/edits
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/namenode/namenodedatas
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/datanode/datanodeDatas
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/nn/edits
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/dfs/snn/name
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/jobhsitory/DoneDatas
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs
mkdir -p /usr/local/src/hadoop/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs

3.运行hadoop

3.1先配置ssh的免密登录

直接复制执行就行了

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
chmod 0600 ~/.ssh/authorized_keys

3.2配置环境变量

3.2.1进入目录
vi /etc/profile
3.2.2配置变量
export HADOOP_HOME=/usr/local/src/hadoop/hadoop-3.1.1
export PATH=:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

在这里插入图片描述

3.2.3 快速生效
source  /etc/profile

3.3 格式化HDFS

为什么要格式化HDFS？
HDFS需要一个格式化的过程来创建存放元数据(image, editlog)的目录

cd /usr/local/src/hadoop/hadoop-3.1.1  //进入目录
bin/hdfs namenode -format  //执行格式化命令

Ps：执行格式化中间让你输入 Y/N 全部输入Y，注意大写

3.4 启动

cd /usr/local/src/hadoop/hadoop-3.1.1  //进入目录
sbin/start-all.sh  //启动命令

拓展：
sbin/start-all.sh 启动所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManager
sbin/stop-all.sh 停止所有的Hadoop守护进程。包括NameNode、 Secondary NameNode、DataNode、ResourceManager、NodeManage

进入浏览器输入：
服务器的ip:50070
服务器的ip:8088即可查看

疑难杂症总结

1.判断进程是否开启

jps

在这里插入图片描述
自己判断缺了那个，如果是按照上面流程执行的话，请检查配置路径是否正确，其他自行百度

2.判断端口有没有开

netstat -ntlp

在这里插入图片描述
判断端口有没有开放，端口的后缀是不是0.0.0.0的原因总结
1.上文中讲的host映射配置错误
2.端口没有开放
3.阿里服务器的端口没有设置出入站规则
4.防火墙有没有关

3.多次格式化HDFS？

每次格式化的时候清空 hdfs文件存储的目录：如果按照上文的配置，请看图
清空这个目录下的文件，然后重新格式化
在这里插入图片描述

飞奔的屎壳郎
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
CentOS7安装Hadoop3完全分布式
大头皮鞋的博客
04-01 8087
前提条件 拥有CentOS7服务器版环境 集群规划 项目 服务器node2 服务器node3 服务器node4 HDFS NameNode、DataNode DataNode DataNode、SecondaryNameNode Yarn NodeManager Resourcemanager、NodeManager NodeManager 虚拟机准备 通网络 能ping通外网，例如： ping baidu.com 如
Centos7 安装Hadoop3.x 完全分布式部署
热门推荐
我就是我不一样的美男子！
02-07 1万+
Centos7 安装Hadoop3.x 完全分布式部署 Zookeeper 安装 Zookeeper集群配置 Hadoop 配置 jobhistoryServer
2024年最新大数据集群搭建之Linux安装hadoop3(1)
最新发布
afagagagaa的博客
05-03 762
一、安装准备。
linux下安装hadoop3.0（全分布式）
xl.zhang的博客
03-04 5262
一、hadoop3.x的新特性 1. Java版本需要1.8 2. Shell脚本已部分重写(Shell script rewrite) 3. HDFS新特性 支持可删除编码(Erasure Coding)使用EC来替代副本机制，可省略大约50%的存储空间，此时副本个数为1就行 支持两个及以上的namenode(即一个namenode与多个datanode) datanode数据写入平...
hadoop-eclipse-plugin-3.3.0.jar
06-15
https://blog.csdn.net/weixin_43311978/article/details/105452135 按隔壁老哥的教程做的，我也不知道能不能用 免费
linux＜centOs＞下安装Hadoop3.版本
puppet_的博客
03-20 4873
Hadoop学习笔记 第一章 Hadoop安装 文章目录Hadoop学习笔记前言一、准备工作1. 安装jdk2. 配置ssh服务，设置免密登录二、安装Hadoop3.3.21.下载2.配置2.1修改hadoop-env.sh2.2修改core-site.xml2.3修改hdfs-site.xml2.4修改mapred-site.xml2.5修改yarn-site.xml2.6修改sbin下的几个文件（注意是有四个文件）2.7 修改bin目录下文件3.启动3.1 初始化3.2 启动dfs和yarn3.3
Hadoop2.x安装共25页.pdf.zip
11-21
很抱歉，根据您提供的信息，"Hadoop2.x安装共25页.pdf.zip"这个压缩文件似乎包含了关于Hadoop 2.x安装的详细教程，但实际的文件内容并没有提供。通常，这样的文档会涵盖Hadoop环境配置、集群搭建、分布式文件系统...
1.Hadoop3.2.1 单机伪分布集群安装
01-07
1台 linux 虚拟机(Centos7.x 64 位) ip 为：192.168.2.100 hostname 为：hadoop100 虚拟机基本环境配置： 集群用到的所有机器都参考此流程进行配置。 1.主机名设置 建议把此机器的主机名设置为 hadoop100 主机名的...
从零开始Hadoop安装和配置.docx
04-26
4. jdk-8u65-linux-x64.t.gz（hadoop是基于java的，所以要有java的jdk） 5. SSH（远程连接工具） 6. winSCP（远程传输工具） 当然，小唐也帮大家全都整理出来了，大家可以直接通过网盘自行下载 链接：...
从零开始Hadoop安装和配置.rar
04-26
4. jdk-8u65-linux-x64.t.gz（hadoop是基于java的，所以要有java的jdk） 5. SSH（远程连接工具） 6. winSCP（远程传输工具） 当然，小唐也帮大家全都整理出来了，大家可以直接通过网盘自行下载 链接：...
HDP-GPL-3.1.0.0-centos7-gpl.tar.gz
05-06
总结，"HDP-GPL-3.1.0.0-centos7-gpl.tar.gz"是Ambari针对CentOS 7的最新版安装包，通过详尽的配置和安装流程，我们可以轻松构建和管理Hadoop集群，从而更高效地利用大数据资源。在实际操作中，务必遵循最佳实践，...
基于CentOS7的Hadoop3.x完全分布式HA的安装部署
逝无痕——kaidy
05-27 2417
文章目录部署规划安装配置zookeeper下载安装目录规划将下载的二进制包移动到/usr/local/hadoop目录，解压缩文件包配置设置环境变量启动 部署规划 ip hostname install software process 10.62.84.37 master hadoop,zookeeper namenode,ResouceManager,ZKFC 10.62....
CentOS 7配置Hadoop3.X环境 附部分原理说明
noobiee的博客
03-15 6725
需要工具： VMware, jdk, centOS7, hadoop Ⅰ.虚拟机安装 centOS官网The CentOS Project VMware自行下载 centOS安装建议选用以下安装方式： 图形化界面更直观 后续方便VMtools等工具使用 (复制粘贴文本 等主机交互命令) 桌面模式下设置root直接登录： CentOS7自动以root身份登陆gnome桌面_DanylZhang的博客-CSDN博客_gnome root登录 设置和主机互传文件 （VMt...
Linux安装Hadoop（图文解说详细版）
编码人生
07-11 5256
0基础Linux安装hadoop
【大数据】Linux下hadoop3.2.1的安装与环境的配置
梦想道路上的萌新
12-19 2525
花了5个小时，终于把这个hadoop环境给配置好了，太考验人的耐心了，但也确实学到不少东西。其中最大的教训就是**：如果按照网络上的教程或者视频安装某项软件时，应当严格按照他所安装的软件版本号（或者说老版本）来进行安装**。如果说我安装的是jdk1.8以及hadoop2.7.1大概就不会出现我下面所说的这些问题了。 安装hadoop 0-使用ssh进行无密码验证登录 需要对ssh进行设置，在配置完...
Hadoop<集群搭建Centos7.3+Hadoop2.8.0>
Gpwner的博客
05-01 6299
本集群搭建于以下软件：VMware Workstation12 ProSecureCRT 7.3Xftp 5CentOS-7-x86_64-Everything-1611.isohadoop-2.8.0.tar.gzjdk-8u121-linux-x64.tar.gz这里的集群是 192.168.195.132 Master、Namenode、SecondNameNode、DataNode 19
【Linux】CentOS 7 安装 hadoop-2.8.5详细过程
hd520superman的博客
11-01 515
参考博客：https://blog.csdn.net/cafebar123/article/details/73500014 前提：已经安装了jdk（可参考：https://blog.csdn.net/hd520superman/article/details/102858061） hadoop-2.8.5资源下载：https://pan.baidu.com/s/1zTQ0mPkro8hJkbr9...
Hadoop——3.x安装部署
blueicex2017的博客
02-08 937
安装条件 jdk1.8 hadoop3.x ssh互信 firewalld关闭 解压hadoop，部署hadoop 按照以上步骤配置完成后，最好重启一下所有机器，确保所有的设置生效。 然后利用joe账户分别登录三台机器。将事先下载好的hadoop压缩包复制到每台机器的/home/joe/目录下，然后在每一台机器上分别使用 tar–zxvf /home/joe/ hadoop-3.0.0-alpha...
大数据集群搭建之Linux安装hadoop3
m0_67613962的博客
05-06 1112
dfs.namenode.http-address.ns1.hadoop002 hadoop002:9870 dfs.ha.automatic-failover.enabled.ns1 true dfs.client.failover.proxy.provider.ns1 org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider dfs.permissions.enabled false dfs.re.
centos7安装mysql5.x
03-08
CentOS 7 安装 MySQL 5.x 的步骤如下： 1. 打开终端，输入以下命令以安装 MySQL 5.x： sudo yum install mysql-server 2. 安装完成后，启动 MySQL 服务： sudo systemctl start mysqld 3. 设置 MySQL 服务开机...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值