集群配置(学习笔记5)

本文详细介绍了Hadoop集群的配置步骤,包括集群部署规划、配置文件详解、HDFS、YARN和MapReduce的设置,以及集群启动、测试、历史服务器配置和日志聚集功能的实现。通过脚本管理集群,确保所有节点正确配置并能正常运行。
摘要由CSDN通过智能技术生成

集群配置

在前几章节的配置完成后,102 103 104服务器都具有了相同的内容框架和配置,能够通过手动免密进行访问,但是不知道有没有发现,他们相互之间还会没有联系的。

本章节我们就需要连接各个服务器

  1. 集群部署规划

NameNode 和 SecondaryNameNode 不要安装在同一台服务器

ResourceManager 也很消耗内存,不要和 NameNode、SecondaryNameNode 配置在

同一台机器上。 

  1. 配置文件

Hadoop 配置文件分两类:默认配置文件自定义配置文件,只有用户想修改某一默认

配置值时,才需要修改自定义配置文件,更改相应属性值。

(2)自定义配置文件:

core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml 四个配置文件存放在

$HADOOP_HOME/etc/hadoop 这个路径上,用户可以根据项目需求重新进行修改配置。

  1. 配置集群
  1. 核心配置文件

这里我们需要更改4个自定义配置文件,加入内容

这里我们做个分辨一下,

default字段的文件名为hadoop官网提供的默认配置文件

site字段的文件为自定义配置文件,供操作人员根据自身的需求进行更改

配置 core-site.xml 

指引路径:/opt/module/hadoop-3.1.3/etc/hadoop/

(不要硬复制进去,只是告诉你大概路径)

以102为例

默认配置文件提供的关于NameNode的默认地址:

File:/// ——本地路径

数据存放目录

根据上面的列表可得治,102服务器上的NameNode需要配置102服务器上,修改如下:

<!-- 指定 NameNode 的地址 -->

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop102:8020</value>

</property>

<!-- 指定 hadoop 数据的存储目录 -->

<property>

<name>hadoop.tmp.dir</name>

<value>/opt/module/hadoop-3.1.3/data</value>

</property>

HDFS 配置文件

默认文件提供的外部NameNode web 访问地址:

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值