Hadoop的简单配置

前提首先安装lrzsz

yum install lrzsz

1. 首先在linux操作系统下进入tmp目录下

cd /tmp

输入 rz 查找在window下文件为hadoop-2.10.1.tar.gz

下载

在usr目录下创建hadoop目录

mkdir /usr/hadoop

解压hadoop-2.10.1.tar.gz

tar -xzvf hadoop-2.10.1.tar.gz -C /usr/hadoop/

移动到hadoop目录下

cd /usr/hadoop/hadoop-2.10.1/etc/hadoop

编辑 Hadoop环境

编辑env.sh

vi hadoop-env.sh

# export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/java/latest/

配置core-site.xml文件

vi core-site.xml

 <property>
                <name>hadoop.tmp.dir</name>
                <value>file:/usr/hadoop/hadoop-2.10.1/tmp</value>
        </property>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://localhost:9000</value>
        </property>

配置hdfs-site.xml

<property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/hadoop/hadoop-2.10.1/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/hadoop/hadoop-2.10.1/tmp/dfs/data</value>
    </property>
    <property>
        <name>dfs.namenode.secondary.http-address</name>  
        <value>0.0.0.0:50090</value>  
    </property>

备注：

1.虚拟机是Centos7下检查防火墙的状态，systemctl status firewalld.service ，如果是active的话要关闭防火墙(systemctl stop firewalld.service)或者是禁用防火墙(systemctl disable firewalld.service)。
如果虚拟机是Centos6的话service iptables status (查看防火墙状态),service iptables stop (临时关闭防火墙) , chkconfig iptables off (永久关闭防火墙).

2.查看Windows中的 C:\Windows\System32\drivers\etc\hosts 这个文件，打开这个文件后查看有没有自动为你生成你的节点ip地址和主机名，如果没有的话则自己手动的设置一下

3.hadoop-env.sh、yarn-env.sh、mapred-env.sh这三个文件中java的绝对路径一定要配置正确，查看java的绝对路径的命令是echo $JAVA_HOME