note1:修改hadoop配置文件
实验具体操作步骤👉hadoop配置、测试和实例
配置文件注释参考👉传送门
cd /usr/local/src/hadoop/hadoop-2.7.7/etc/hadoop
1 配置hadoop-env.sh
vim hadoop-env.sh
# 查看JDK安装目录:echo $JAVA_HOME
export JAVA_HOME=/usr/local/src/jdk/jdk1.8.0_221
2 配置core-site.xml
vim core-site.xml
<configuration>
<property>
<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<!-- 指定hadoop运行时产生文件的存储目录 -->
<name>hadoop.tmp.dir</name>
<value>/usr/local/src/hadoop/hadoop-2.7.7/tmp</value>
</property>
</configuration>
3 配置hdfs-site.xml
1、需要提前建立hdfs文件夹
2、hdfs文件夹必须在hadoop-2.7.7目录下(子目录就不知道了,反正不能在目录外)
vim hdfs-site.xml
<configuration>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/src/hadoop/hadoop-2.7.7/hdfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/src/hadoop/hadoop-2.7.7/hdfs/data</value>
</property>
<property>
<!-- 指定HDFS副本的数量 -->
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
4 配置mapred-site.xml
mv mapred-site.xml.template mapred-site.xml
vim mapred-site.xml
<configuration>
<property>
<!-- 指定mr运行在yarn上 -->
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
5 配置yarn-site.xml
vim yarn-site.xml
<configuration>
<property>
<!-- reducer获取数据的方式 -->
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<!-- 指定YARN的老大(ResourceManager)的地址 -->
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
# 如果localhost不行(yarn网页打不开),就设置成你的静态IP,然后关闭再开启你的yarn
</property>
</configuration>