目录
一、文档编写的目的
hadoop主要是配置core-site.xml,hdfs-site.xml,mapred-site.xml三个配置文件,默认下来,这些配置文件都是空的,所以很难知道这些配置文件有哪些配置可以生效,上网找的配置可能因为各个hadoop版本不同,导致无法生效。
本文主要介绍如何查找hadoop中有哪些配置,需要怎样配置,默认配置是什么等。
二、获取默认配置
要查看默认配置,有两个方法:
- 选择相应版本的hadoop,下载解压后,搜索*.xml,找到core-default.xml,hdfs-default.xml,mapred-default.xml,yarn-default.xml这些就是默认配置,可以参考这些配置的说明和key,配置hadoop集群。
以hadoop2.9.1为例的路径为:
core-default.xml:
hadoop-2.9.1/share/doc/hadoop/hadoop-project-dist/hadoop-common/core-default.xml
hdfs-default.xml:
hadoop-2.9.1/share/doc/hadoop/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml
mapred-default.xml:
hadoop-2.9.1/share/doc/hadoop/hadoop-mapreduce-client/hadoop-mapreduce-client-core/mapred-default.xml
yarn-default.xml:
hadoop-2.9.1/share/doc/hadoop/hadoop-yarn/hadoop-yarn-common/yarn-default.xml
- 浏览apache官网,三个配置文件链接如下(以hadoop2.9.1为例):