Hadoop 配置文件介绍

Hadoop 配置文件:

文件名配置对象主要内容
core-site.xml集群全局参数用于定义系统级别的参数,如URL、Hadoop的临时目录等
hdfs-site.xmlHDFS参数如NameNode和DataNode的存放位置、文件、副本的个数、文件读取权限等
mapred-site.xmlMapreduce参数包括JobHistory Server和应用程序参数两部分,如reduce任务的默认个数、任务所能够使用内存的默认上下限等
yarn-site.xml集群资源管理系统参数配置 ResourceManager,NodeManager 的通信端口,web监控端口等

 详解:

Hadoop配置文件详解(core-site.xml、hdfs-site.xm、mapred-site.xml、yarn-site.xml)_hdfs-site.xml和core-site.xml-CSDN博客

官网说明:

https://hadoop.apache.org/docs/r3.3.6/hadoop-project-dist/

案例:

Pseudo-Distributed (hadoop version = 3.3.6)

FileNameValue
core-site.xml

fs.defaultFS

hdfs://localhost:9000

core-site.xml

hadoop.tmp.dir

/root/hadoop-3.3.6/tmp

hdfs-site.xml

dfs.replication

1
hdfs-site.xml

dfs.namenode.name.dir

/root/hdfs/name

hdfs-site.xml

dfs.datanode.data.dir

/root/hdfs/data

mapred-site.xml

mapreduce.framework.name

yarn

mapred-site.xml

yarn.app.mapreduce.am.env

HADOOP_MAPRED_HOME=${HADOOP_HOME}

mapred-site.xml

mapreduce.map.env

HADOOP_MAPRED_HOME=${HADOOP_HOME}

mapred-site.xml

mapreduce.reduce.env

HADOOP_MAPRED_HOME=${HADOOP_HOME}

yarn-site.xml

yarn.nodemanager.aux-services

mapreduce_shuffle

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值