Hadoop安装部署之修改配置文件

本文详细介绍了如何在Hadoop3.3.6环境中进行安装和配置,包括定制hadoop-env.sh、核心模块(core-site.xml)、HDFS模块(hdfs-site.xml)、MapReduce模块(mapred-site.xml)和YARN模块(yarn-site.xml)的配置,以及重要环境变量的设置。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

本文所部署安装的hadoop版本为3.3.6,安装路径为/usr/local/hadoop-3.3.6。

自定义配置文件概述

第一类1个:hadoop-env.sh

第二类4个:core-site.xml        核心模块配置

                    hdfs-site.xml        hdfs文件系统模块配置

                    mapred-sitem.xml        MapReduce模块配置

                    yarn-site.xml        yarn模块配置

第三类1个:workers

所有配置文件目录均在hadoop-3.3.6/etc/hadoop

配置文件具体参数设置

hadoop-env.sh

#添加JAVA环境,本文所使用的是jdk1.8.0
export JAVA_HOME=/usr/java/jdk1.8.0_391

#设置启动hadoop集群角色的用户
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root


core-site.xml

<configuration>
<!-- 设置默认使用文件系统hadoop支持file、HDFS、GFS、ali|Amazon等云文件系统 -->
    <property>
        <name>fs.defaultFS</name>
     
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值