Hadoop 安装,修改配置文件

修改core-site.xml

    <!--指定集群的文件系统类型:分布式文件系统 -->
    <!-- 定义我们文件系统的实现,默认是file:/// 本地文件系统  一定要改掉 hdfs://表示我们的分布式文件存储系统 -->
	<property>
    	<name>fs.defaultFS</name>
    	<value>hdfs://hadoop1:8020</value>
	</property>	

	<property>
    	<name>hadoop.tmp.dir</name>
    	<value>/home/hadoop/app/tmp</value>
	</property>

	<!--  缓冲区大小,实际工作中根据服务器性能动态调整 -->
	<property>
		<name>io.file.buffer.size</name>
		<value>4096</value>
	</property>

    <!--  开启hdfs的垃圾桶机制,删除掉的数据可以从垃圾桶中回收,单位分钟 -->
	<property>
    	<name>fs.trash.interval</name>
    	<value>10080</value>
	</property>	

修改hdfs-site.xml

<property>
		<name>dfs.namenode.secondary.http-address</name>
		<value>node01:50090</value>
</property>

<!-- 定义我们namenode的访问地址,可能通过网页访问这个地址-->
<property>
	<name>dfs.namenode.http-address</name>
	<value>hadoop1:50070</value>
</property>


	<property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>

<!-- 主要用于存放我们的元数据信息的地址,注意这种写法,实际工作当中一定要先确认你的linux的磁盘挂载在哪个路径下面
/datadisk
	/mnt/resource
	file:///datadisk,file:///mnt/resource
	存储我们的元数据信息,一定要事先确定我们的磁盘在哪里  df  -lh
	fsimage的存放位置
-->
<property>
	<name>dfs.namenode.name.dir</name>
	<value>file:///export/servers/hadoop-2.7.5/hadoopDatas/namenodeDatas,file:///export/servers/hadoop-2.7.5/hadoopDatas/namenodeDatas2</value>
</property>


<!--  定义dataNode数据存储的节点位置,实际工作中,一般先确定磁盘的挂载目录,然后多个目录用,进行分割 
一定不要把数据干到系统盘里面了
-->
<property>
	<name>dfs.datanode.data.dir</name>
	<value>file:///export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas,file:///export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas2</value>
</property>

<!-- 定义我们的元数据的操作日志的存放位置

edits的存放位置
–>

dfs.namenode.edits.dir
file:///export/servers/hadoop-2.7.5/hadoopDatas/nn/edits

<!-- 元数据检查点保存的位置 -->
<property>
	<name>dfs.namenode.checkpoint.dir</name>
	<value>file:///export/servers/hadoop-2.7.5/hadoopDatas/snn/name</value>
</property>

<!--
edits文件的检查点保存位置 

-->

<property>
	<name>dfs.namenode.checkpoint.edits.dir</name>
	<value>file:///export/servers/hadoop-2.7.5/hadoopDatas/dfs/snn/edits</value>
</property>


<property>
	<name>dfs.replication</name>
	<value>3</value>
</property>

<!-- hdfs的权限控制 -->
<property>
	<name>dfs.permissions</name>
	<value>false</value>
</property>

<!--  文件存储的block块大小 :128M  -->
<property>
	<name>dfs.blocksize</name>
	<value>134217728</value>
</property>

修改hadoop-env.sh

修改 mapred-site.xml

mapreduce.framework.name yarn
<!-- 开启mapreduce的小任务模式 -->
<property>
	<name>mapreduce.job.ubertask.enable</name>
	<value>true</value>
</property>

<!-- 配置mapreduce 的jobhistory   可以查看我们所有运行完成的任务的一些情况 -->
<property>
	<name>mapreduce.jobhistory.address</name>
	<value>node01:10020</value>
</property>

<property>
	<name>mapreduce.jobhistory.webapp.address</name>
	<value>node01:19888</value>
</property>

修改yarn-site.xml

yarn.resourcemanager.hostname node01
<property>
	<name>yarn.nodemanager.aux-services</name>
	<value>mapreduce_shuffle</value>
</property>

<!-- 日志的聚合功能,方便我们查看任务执行完成之后的日志记录 -->
<property>
	<name>yarn.log-aggregation-enable</name>
	<value>true</value>
</property>

<!-- 聚合日志的保存时长 -->
<property>
	<name>yarn.log-aggregation.retain-seconds</name>
	<value>604800</value>
</property>

修改mapred-env.sh

修改slaves

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值