【大数据系列】hadoop集群的配置

一、hadoop的配置文件分类

1、只读类型的默认文件

    core-default.xml     hdfs-default.xml    mapred-default.xml   mapred-queues.xml

2、定位设置

    core-site.xml   hdfs-site.xml   mapred-site.xml  mapred-queues.xml

3、守护进程设置

     hadoop-env.sh

二、守护进程配置表

守护进程(Daemoon)配置选项(Configure Options)
NameNode    HADOOP_NAMENODE_OPTS
DataNodeHADOOP_DATANODE_OPTS
SecondaryNameNodeHADOOP_SECONDARYNAMENODE_OPTS
JobTrackerHADOOP_JOBTRACKER_OPTS
TackTrackerHADOOP_TASKTRACKER_OPTS

三、core-site  hdfs-site  mapred-site的配置

1、core-site.xml

参数(Parameter)值(Value)
fs.default.nameNameNode的IP地址及端口

2、hdfs-site.xml

参数(Parameter)值(Value)
dfs.name.dirNameNode存储名字空间及汇报日志的位置
dfs.data.dirDataNode存储数据块的位置

3、mapred-site.xml

参数(Parameter)值(Value)
mapreduce.jobtracker.addressJobTracker的IP地址及端口
mapreduce.jobtracker.system.dirMapReduce在HDFS上存储文件的位置
mapreduce.cluster.local.dirMapReduce的缓存数据存储在文件系统中的位置
mapred.tasktracker.{map|reduce}.tasks.maximum每台TaskTracker所能运行的Map或Reduce的task最大数量
dfs.hosts/dfs.hosts.exclude允许或禁止的DataNode列表

mapreduce.jobtracker.hosts.filename/

mapreduce.jobtracker.hosts.exclude.filename

允许或禁止的TaskTrackers列表
mapreduce.cluster.job-authorization-enabled布尔类型,表示Job,存储控制列表是否支持对Job的观察和修改

转载于:https://www.cnblogs.com/dream-to-pku/p/7059205.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值