hadoop学习笔记(二)伪分布式模式配置

启动HDFS并运行MapReduce程序

使用的虚拟机系统为CentOS7
jdk版本: jdk1.8.0_144
hadoop版本: hadoop-2.7.2
下载地址

关闭防火墙

firewall-cmd --state
systemctl stop firewalld.service
systemctl disable firewalld.service 
// 查看主机名
hostnamectl 
// 修改主机名 修改后需要重启
hostnamectl set-hostname hadoop104

配置集群

（a）配置：hadoop-env.sh

Linux系统中获取JDK的安装路径：
[atguigu@ hadoop101 ~]# echo $JAVA_HOME
/opt/module/jdk1.8.0_144
修改JAVA_HOME 路径：

export JAVA_HOME=/opt/module/jdk1.8.0_144

（b）配置：core-site.xml

<!-- 指定HDFS中NameNode的地址 -->
<property>
<name>fs.defaultFS</name>
    <value>hdfs://hadoop101:9000</value>
</property>
<!-- 指定Hadoop运行时产生文件的存储目录 -->
<property>
	<name>hadoop.tmp.dir</name>
	<value>/opt/module/hadoop-2.7.2/data/tmp</value>
</property>

（c）配置：hdfs-site.xml

<!-- 指定HDFS副本的数量 -->
<property>
	<name>dfs.replication</name>
	<value>1</value>
</property>

启动集群

（a）格式化NameNode（第一次启动时格式化，以后就不要总格式化）

 bin/hdfs namenode -format

（b）启动NameNode

sbin/hadoop-daemon.sh start namenode

（c）启动DataNode

sbin/hadoop-daemon.sh start datanode

查看集群

（a）查看是否启动成功

 jps

注意：jps是JDK中的命令，不是Linux命令。不安装JDK不能使用jps
（b）web端查看HDFS文件系统
http://hadoop101:50070/dfshealth.html#tab-overview
注意：如果不能查看，看如下帖子处理
http://www.cnblogs.com/zlslch/p/6604189.html
（c）查看产生的Log日志
说明：在企业中遇到Bug时，经常根据日志提示信息去分析问题、解决Bug。