【大数据实验2】note1:修改hadoop配置文件

实验具体操作步骤👉hadoop配置、测试和实例
配置文件注释参考👉传送门

cd /usr/local/src/hadoop/hadoop-2.7.7/etc/hadoop

1 配置hadoop-env.sh

vim hadoop-env.sh
# 查看JDK安装目录:echo $JAVA_HOME
export JAVA_HOME=/usr/local/src/jdk/jdk1.8.0_221

2 配置core-site.xml

vim core-site.xml
<configuration>
        <property>
        		<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
                <name>fs.defaultFS</name>
                <value>hdfs://localhost:9000</value>
        </property>
        <property>
        		<!-- 指定hadoop运行时产生文件的存储目录 -->
                <name>hadoop.tmp.dir</name>
                <value>/usr/local/src/hadoop/hadoop-2.7.7/tmp</value>
        </property>           
</configuration>

core-site.xml

3 配置hdfs-site.xml

1、需要提前建立hdfs文件夹
2、hdfs文件夹必须在hadoop-2.7.7目录下(子目录就不知道了,反正不能在目录外)

vim hdfs-site.xml
<configuration>
        <property>
                 <name>dfs.namenode.name.dir</name>
                 <value>file:/usr/local/src/hadoop/hadoop-2.7.7/hdfs/name</value>
        </property>
        <property>
                <name>dfs.datanode.data.dir</name>
                <value>file:/usr/local/src/hadoop/hadoop-2.7.7/hdfs/data</value>
        </property>
        <property>
        		<!-- 指定HDFS副本的数量 -->
                <name>dfs.replication</name>
                <value>1</value>
        </property>
</configuration>

hdfs-site.xml

4 配置mapred-site.xml

mv mapred-site.xml.template mapred-site.xml
vim mapred-site.xml
<configuration>
        <property>
        		<!-- 指定mr运行在yarn上 -->
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
</configuration>

mapred-site.xml

5 配置yarn-site.xml

vim yarn-site.xml
<configuration>
        <property>
        		<!-- reducer获取数据的方式 -->
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
        <property>
                <!-- 指定YARN的老大(ResourceManager)的地址 -->
                <name>yarn.resourcemanager.hostname</name>
                <value>localhost</value>
                # 如果localhost不行(yarn网页打不开),就设置成你的静态IP,然后关闭再开启你的yarn
        </property>
</configuration>

yarn-site.xml

©️2020 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页