2.1.6 hadoop体系之离线计算-hdfs分布式文件系统-全分布式安装（2）

最新推荐文章于 2021-01-10 14:05:09 发布
最新推荐文章于 2021-01-10 14:05:09 发布
阅读量179 收藏
点赞数
分类专栏： 大数据学习之路
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Suyebiubiu/article/details/108879969
版权

目录

1.集群的规划

2.上传并解压

3.修改配置文件

3.1 core-site.xml

3.2 hadoop-env.sh

3.3 hdfs-site.xml

3.4 mapred-site.xml

3.5 yarn-site.xml

3.6 worker

3.7 创建数据和临时文件夹

4.分发安装包到其他机器

5.为每个节点配置环境变量

6.格式化HDFS

7.启动集群

1.集群的规划

        我们将分为5个部分介绍（与上篇全分布式安装，配置文件不一样）：1. 上传并解压 2. 修改配置文件 3. 分发安装包 4. 格式化HDFS 5. 启动集群

2.上传并解压

  • 1. 上传压缩包到/export/software目录
  • 2. cd /export/software
  • 3. tar xzvf hadoop-3.1.1.tar.gz -C ../servers

3.修改配置文件

3.1 core-site.xml

<configuration>
    <property>
		<name>fs.defaultFS</name>
		<value>hdfs://node01:8020</value>
	</property>
	<!-- 临时文件存储目录 -->
	<property>
		<name>hadoop.tmp.dir</name>
		<value>/export/servers/hadoop-3.1.1/datas/tmp</value>
	</property>
    <!--  缓冲区大小，实际工作中根据服务器性能动态调整 -->
	<property>
		<name>io.file.buffer.size</name>
		<value>8192</value>
	</property>
    <!--  开启hdfs的垃圾桶机制，删除掉的数据可以从垃圾桶中回收，单位分钟 -->
	<property>
		<name>fs.trash.interval</name>
		<value>10080</value>
	</property>
</configuration>

3.2 hadoop-env.sh

export JAVA_HOME=/export/servers/jdk1.8.0_141
export HDFS_NAMENODE_USER="root"
export HDFS_DATANODE_USER="root"
export HDFS_SECONDARYNAMENODE_USER="root"
export YARN_RESOURCEMANAGER_USER="root"
export YARN_NODEMANAGER_USER="root"

3.3 hdfs-site.xml

<configuration>
	<property>
		<name>dfs.namenode.name.dir</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/namenode/namenodedatas</value>
	</property>
	<property>
		<name>dfs.blocksize</name>
		<value>134217728</value>
	</property>
	<property>
		<name>dfs.namenode.handler.count</name>
		<value>10</value>
	</property>
	<property>
		<name>dfs.datanode.data.dir</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/datanode/datanodeDatas</value>
	</property>
	<property>
		<name>dfs.namenode.http-address</name>
		<value>node01:50070</value>
	</property>
	<property>
		<name>dfs.replication</name>
		<value>3</value>
	</property>
	<property>
		<name>dfs.permissions.enabled</name>
		<value>false</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.edits.dir</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/dfs/nn/snn/edits</value>
	</property>
	<property>
		<name>dfs.namenode.secondary.http-address</name>
		<value>node01.hadoop.com:50090</value>
	</property>
	<property>
		<name>dfs.namenode.edits.dir</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/dfs/nn/edits</value>
	</property>
	<property>
		<name>dfs.namenode.checkpoint.dir</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/dfs/snn/name</value>
	</property>
</configuration>

查看了下官方文档，默认的绑定IP就是在127.0.0.1上，当然，这应该也是出于安全性的考虑吧。于是，修改默认参数：
在hdfs-site.xml中，更改开放端口的绑定IP：（hadoop3默认端口已经改成了9870）

<property>
  <name>dfs.http.address</name>
  <value>0.0.0.0:9870</value>
</property>
  • 将绑定IP改为0.0.0.0，而不是本地回环IP，这样，就能够实现外网访问本机的9870端口了。
  • node01.hadoop.com 这个需要添加到 /etc/hosts 中间

3.4 mapred-site.xml

<configuration>
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
	<property>
		<name>mapreduce.map.memory.mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>mapreduce.map.java.opts</name>
		<value>-Xmx512M</value>
	</property>
	<property>
		<name>mapreduce.reduce.memory.mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>mapreduce.reduce.java.opts</name>
		<value>-Xmx512M</value>
	</property>
	<property>
		<name>mapreduce.task.io.sort.mb</name>
		<value>256</value>
	</property>
	<property>
		<name>mapreduce.task.io.sort.factor</name>
		<value>100</value>
	</property>
	<property>
		<name>mapreduce.reduce.shuffle.parallelcopies</name>
		<value>25</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.address</name>
		<value>node01.hadoop.com:10020</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.webapp.address</name>
		<value>node01.hadoop.com:19888</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.intermediate-done-dir</name>
		<value>/export/servers/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas</value>
	</property>
	<property>
		<name>mapreduce.jobhistory.done-dir</name>
		<value>/export/servers/hadoop-3.1.1/datas/jobhsitory/DoneDatas</value>
	</property>
	<property>
	  <name>yarn.app.mapreduce.am.env</name>
	  <value>HADOOP_MAPRED_HOME=/export/servers/hadoop-3.1.1</value>
	</property>
	<property>
	  <name>mapreduce.map.env</name>
	  <value>HADOOP_MAPRED_HOME=/export/servers/hadoop-3.1.1/</value>
	</property>
	<property>
	  <name>mapreduce.reduce.env</name>
	  <value>HADOOP_MAPRED_HOME=/export/servers/hadoop-3.1.1</value>
	</property>
</configuration>

3.5 yarn-site.xml

<configuration>
	<property>
		<name>dfs.namenode.handler.count</name>
		<value>100</value>
	</property>
	<property>
		<name>yarn.log-aggregation-enable</name>
		<value>true</value>
	</property>
	<property>
		<name>yarn.resourcemanager.address</name>
		<value>node01:8032</value>
	</property>
	<property>
		<name>yarn.resourcemanager.scheduler.address</name>
		<value>node01:8030</value>
	</property>
	<property>
		<name>yarn.resourcemanager.resource-tracker.address</name>
		<value>node01:8031</value>
	</property>
	<property>
		<name>yarn.resourcemanager.admin.address</name>
		<value>node01:8033</value>
	</property>
	<property>
		<name>yarn.resourcemanager.webapp.address</name>
		<value>node01:8088</value>
	</property>
	<property>
		<name>yarn.resourcemanager.hostname</name>
		<value>node01</value>
	</property>
	<property>
		<name>yarn.scheduler.minimum-allocation-mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>yarn.scheduler.maximum-allocation-mb</name>
		<value>2048</value>
	</property>
	<property>
		<name>yarn.nodemanager.vmem-pmem-ratio</name>
		<value>2.1</value>
	</property>
	<!-- 设置不检查虚拟内存的值，不然内存不够会报错 -->
	<property>
		<name>yarn.nodemanager.vmem-check-enabled</name>
		<value>false</value>
	</property>
	<property>
		<name>yarn.nodemanager.resource.memory-mb</name>
		<value>1024</value>
	</property>
	<property>
		<name>yarn.nodemanager.resource.detect-hardware-capabilities</name>
		<value>true</value>
	</property>
	<property>
		<name>yarn.nodemanager.local-dirs</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas</value>
	</property>
	<property>
		<name>yarn.nodemanager.log-dirs</name>
		<value>file:///export/servers/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs</value>
	</property>
	<property>
		<name>yarn.nodemanager.log.retain-seconds</name>
		<value>10800</value>
	</property>
	<property>
		<name>yarn.nodemanager.remote-app-log-dir</name>
		<value>/export/servers/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs</value>
	</property>
	<property>
		<name>yarn.nodemanager.remote-app-log-dir-suffix</name>
		<value>logs</value>
	</property>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
	<property>
		<name>yarn.log-aggregation.retain-seconds</name>
		<value>18144000</value>
	</property>
	<property>
		<name>yarn.log-aggregation.retain-check-interval-seconds</name>
		<value>86400</value>
	</property>
	<!-- yarn上面运行一个任务，最少需要1.5G内存，虚拟机没有这么大的内存就调小这个值，不然会报错 -->
	<property>
        <name>yarn.app.mapreduce.am.resource.mb</name>
        <value>1024</value>
	</property>
</configuration>

3.6 worker

node01
node02
node03

3.7 创建数据和临时文件夹

mkdir -p /export/servers/hadoop-3.1.1/datas/tmp
mkdir -p /export/servers/hadoop-3.1.1/datas/dfs/nn/snn/edits
mkdir -p /export/servers/hadoop-3.1.1/datas/namenode/namenodedatas
mkdir -p /export/servers/hadoop-3.1.1/datas/datanode/datanodeDatas
mkdir -p /export/servers/hadoop-3.1.1/datas/dfs/nn/edits
mkdir -p /export/servers/hadoop-3.1.1/datas/dfs/snn/name
mkdir -p /export/servers/hadoop-3.1.1/datas/jobhsitory/intermediateDoneDatas
mkdir -p /export/servers/hadoop-3.1.1/datas/jobhsitory/DoneDatas
mkdir -p /export/servers/hadoop-3.1.1/datas/nodemanager/nodemanagerDatas
mkdir -p /export/servers/hadoop-3.1.1/datas/nodemanager/nodemanagerLogs
mkdir -p /export/servers/hadoop-3.1.1/datas/remoteAppLog/remoteAppLogs

4.分发安装包到其他机器

cd /export/servers
scp -r hadoop-3.1.1/ node02:$PWD
scp -r hadoop-3.1.1/ node03:$PWD

5.为每个节点配置环境变量

vi /etc/profile
export HADOOP_HOME=/export/servers/hadoop-3.1.1/
export PATH=:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

激活每个节点的环境变量：source /etc/profile

6.格式化HDFS

为什么要格式化HDFS

  • HDFS需要一个格式化的过程来创建存放元数据(image, editlog)的目录，格式化一次就可以了，始终保持，所有集群中配置文件是一样的，可能会导致某一个节点起不来
bin/hdfs namenode -format

7.启动集群

# 会登录进所有的worker启动相关进行, 也可以手动进行, 但是没必要
/export/servers/hadoop-3.1.1/sbin/start-dfs.sh
/export/servers/hadoop-3.1.1/sbin/start-yarn.sh
mapred --daemon start historyserver

此时便可以通过如下三个URL访问Hadoop了

  • HDFS: http://192.168.174.100:50070/dfshealth.html#tab-overview
  • Yarn: http://192.168.174.100:8088/cluster

当访问不到页面的时候：

需要关闭防火墙，selinux设置为disabled。
注意不同CentOs版本关闭防火墙的指令不同。

systemctl stop firewalld.service

关闭防火墙；

禁止自动启动就用

systemctl  disable  firewalld.service

想要关闭的话：

/export/servers/hadoop-3.1.1/sbin/stop-dfs.sh
/export/servers/hadoop-3.1.1/sbin/stop-yarn.sh

敲代码的乔帮主
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ide-eval-resetter-2.1.6
02-16
2020版本插件
hadoop的架构
Leon_Jinhai_Sun的博客
12-18 303
Hadoop 8.1 Hadoop的介绍 Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。 2003年、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。 ——分布式文件系统（GFS），可用于处理海量网页的存储 ...
解决“/home/jpy/app/hadoop-2.4.1/bin/hdfs:行206: /home/jpy/app/jdk1.8.0_221/bin/java: 权限不够”等问题的方法
jpy870965036的博客
09-28 1032
有时在Linux系统中输入一些命令会出现如下提示，导致命令无法成功执行： 解决方法如下： 输入命令：chmod +x /home/jpy/app/jdk1.8.0_221/bin/java 或者直接给bin包下所有命令全部+x权限：chmod +x /home/jpy/app/jdk1.8.0_221/bin/* 1. chmod：改变权限的方法 2. +：代表添加权限...
Ceph容器化部署（离线环境）
AI在路上
12-20 1584
前提：各节点已安装docker,已部署好局域网docker registry1、节点规划 172.17.47.85 aipaas0    admin（启动mon、osd、mgr） 172.17.47.86 aipaas1    node1（启动mon、osd） 172.17.47.88 aipaas2    node2（启动mon、osd） 172.17.47.90 aipaas3    no...
大数据离线-HDFS（上）入门操作
weixin_42229056的博客
09-12 464
本次介绍HDFS,分为上，中，下，三篇 上篇入HDFS门介绍，常用操作 中篇为HDFS的读写原理介绍 下篇为HDFS的测试Demo，常用API 1. HDFS的基本概念 HDFS的介绍 HDFS 是 Hadoop Distribute File System 的简称， 意为： Hadoop 分布式文件系统。 是 Hadoop 核心组件之一，作为最底层的分布式存储服务而存在。 分...
2.1.6 hadoop体系之离线计算-hdfs分布式文件系统-全分布式安装
敲代码的乔帮主
09-22 169
1.写在前面
2.1.6 hadoop体系之离线计算-hdfs分布式文件系统-全分布式安装hadoop2.7.7（3）
敲代码的乔帮主
10-24 169
目录 1.下载并解压 2.配置环境变量 3.修改Hadoop配置文件 3.1hadoop-env.sh 3.2core-site.xml 3.3hdfs-site.xml 3.4mapred-site.xml 3.5 yarn-site.xml 3.6 master 3.7 slaves 4.分发程序 5.node01初始化 6.启动集群 7.查看集群 8.问题 1.下载并解压 下载 Hadoop 安装包，这里我下载的是hadoop-2.7.7.tar.gz ...
.metadata是什么项目文件_Hadoop学习之路(2)hdfs分布式文件系统详解
weixin_39797324的博客
11-22 678
1.Hadoop架构Hadoop由三个模块组成：分布式存储HDFS、分布式计算MapReduce、资源调度引擎Yarn2.HDFS体系架构2.1、NameNodeNameNode负责文件元数据信息的操作以及处理客户端的请求；管理HDFS文件系统的命名空间NameSpace；维护文件系统树(FileSystem)以及文件树中所有的文件和文件夹的元数据信息(matedata)；维护文件到块的对应关系和...
第2关：配置开发环境 - Hadoop安装与伪分布式集群搭建
有勇气的牛排博客
01-10 8250
1 下载hadoop 官网：http://hadoop.apache.org/ 2 安装hadoop 官方文档：http://hadoop.apache.org/docs/r3.1.0/hadoop-project-dist/hadoop-common/SingleCluster.html 将hadoop压缩包解压到 /app文件夹中 cd /opt tar -zxvf hadoop-3.1.0.tar.gz -C /app 我们来切换到app目录下修改一下hadoop文件夹的名字。(这步可做可不做) m
Hadoop-2-Hadoop概述、安装与配置
一只不资深程序猿的博客
10-25 1419
了解了大数据基本知识，现在我们来了解一下Hadoop吧！ 2.1 概述 2.1.1 Hadoop简介 Hadoop是Apache软件基金会旗下的一个开源分布式计算平台，为用户提供了系统底层细节透明的分布式基础架构 Hadoop是基于Java语言开发的，具有很好的跨平台特性，并且可以部署在廉价的计算机集群中 Hadoop的核心是分布式文件系统HDFS（Hadoop Distributed File System）和MapReduce Hadoop被公认为行业大数据标准开源软件，在分布式环境下提供了海量数据的
Keras-2.1.6-py2.py3-none-any.whl
06-11
该资源为Keras-2.1.6-py2.py3-none-any.whl，欢迎下载使用哦！
分布式数据库TiDB -2 安装v2.1.6新版本记录.rar
09-16
分布式数据库TiDB -2 安装v2.1.6新版本记录.rar
ide-eval-resetter-2.1.6非破解无限试用插件
06-17
一款IDEA好用的插件，适用于旗舰版，虽然只能使用三十天，不过三十天后可以重新配置使用。 可以无限延期
ide-eval-resetter-2.1.6.zip
01-22
ide-eval-resetter-2.1.6.zip
pre_o_1csdn63m9a1bs0e1rr51niuu33e.a
最新发布
05-15
pre_o_1csdn63m9a1bs0e1rr51niuu33e.a
matlab建立计算力学课程的笔记和文件.zip
05-15
matlab建立计算力学课程的笔记和文件.zip
FT-Prog-v3.12.38.643-FTD USB 工作模式设定及eprom读写
05-15
FT_Prog_v3.12.38.643--FTD USB 工作模式设定及eprom读写
matlab基于RRT和人工势场法混合算法的路径规划.zip
05-15
matlab基于RRT和人工势场法混合算法的路径规划.zip
ide-eval-resetter-2.1.6 如何配置到idea
06-13
5. 在弹出的文件浏览器中，选择解压后的 ide-eval-resetter-2.1.6 目录中的 ide-eval-resetter.jar 文件。 6. 安装插件后，重启 IntelliJ IDEA。 7. 在 IDEA 中，选择菜单栏中的 Help -> Eval Reset。 8. 在弹出...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值