Windows10搭建Hadoop集群

首先到官方下载官网的hadoop2.7.7,链接如下

https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/

找网盘的hadooponwindows-master.zip
链接如下
https://pan.baidu.com/s/1VdG6PBnYKM91ia0hlhIeHg

把hadoop-2.7.7.tar.gz解压后
使用hadooponwindows-master的bin和etc替换hadoop2.7.7的bin和etc

配置JAVA_HOME和path
配置HADOOP_HOME 以及hadoop的path
path比XXX_HOME多了一层bin目录

使用编辑器打开C:\hadoop-2.7.7\etc\hadoop\hadoop-env.cmd
修改JAVA_HOME的路径
把set JAVA_HOME改为jdk的位置
注意其中PROGRA~1代表Program Files

set JAVA_HOME=C:\PROGRA~1\Java\jdk1.7.0_67

打开 hadoop-2.7.3/etc/hadoop/hdfs-site.xml
修改路径为hadoop下的namenode和datanode

<configuration>
    <property>       
        <name>dfs.replication</name>       
        <value>1</value>   
    </property>   
    <property>       
        <name>dfs.namenode.name.dir</name>       
        <value>C:\hadoop-2.7.7\namenode</value>   
    </property>   
    <property>       
        <name>dfs.datanode.data.dir</name>     
        <value>C:\hadoop-2.7.7\datanode</value>   
    </property>
</configuration>

在C:\hadoop-2.7.7目录下
添加namenode,datanode,tmp三个文件夹

以管理员身份打开命令提示符
输入hdfs namenode -format,看到seccessfully就说明format成功

转到Hadoop-2.7.3\sbin文件下
输入start-all.cmd，启动hadoop集群

输入JPS – 可以查看运行的所有节点

访问http://localhost:50070,访问hadoop的web界面
访问http://localhost:8088,访问yarn的web界面

还需要把hadoop.dll拷贝到
C:\Windows\System32
不然在window平台使用MapReduce测试时报错