hadoop2.7 java开发_Windows 搭建Hadoop 2.7.3开发环境

1、安装配置Java环境

1.1、安装Windows版本的jkd应用程序

下载后直接点击安装，默认的安装位置为：C:\Java\jdk

1.2、配置Java环境变量

鼠标右键 "我的电脑"-->"属性"

点击左边 "高级系统设置"-->"环境变量"

增加JAVA_HOME变量，在系统变量点击 "新建"变量：JAVA_HOME

变量值：C:\Java\jdk

在path上增加java安装路径，找到path点击"编辑"在最后增加:;%JAVA_HOME%\bin;%JAVA_HOME%\lib;%JAVA_HOME%\jre\bin

增加CLASSPATH变量：CLASSPATH

变量值：%JAVA_HOME%\lib;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar

java的环境变量设置完成后，在命令提示符输入命令检查：java -version

如果输出java信息说明环境设置完成；

2、安装配置Hadoop

2.1、下载安装Hadoop

下载Hadoop 2.7.3，下载地址：找到2.7.3版本，下载hadoop-2.7.3.tar.gz

将下载的hadoop-2.7.3.tar.gz解压移动到：C:\Usr\local\

2.2、配置Hadoop

2.2.1、配置Hadoop环境变量

配置Hadoop环境变量：HADOOP_HOME，方法参照java

新建HADOOP_CONF_DIR变量：变量值：%HADOOP_HOME%\etc\hadoop

新建YARN_CONF_DIR变量：变量值：%HADOOP_CONF_DIR%

配置Hadoop path变量：%HADOOP_HOME%/bin

2.2.2、配置Hadoop配置文件

Hadoop配置文件存放在：C:\Usr\local\hadoop-2.7.3\etc\hadoop,在C:\Usr\local\hadoop-2.7.3目录下创建文件夹hdfs/{datanode,namenode}

2.2.2.1、 配置core-site.xml

fs.defaultFS

hdfs://localhost:9000

2.2.2.2、 配置hdfs-site.xml

dfs.replication

1

dfs.namenode.name.dir

/C:/Usr\local/hadoop-2.7.3/hdfs/namenode

dfs.datanode.data.dir

/C:/Usr/local/hadoop-2.7.3/hdfs/datanode

2.2.2.3、 配置mapred-site.xml

mapreduce.framework.name

yarn

2.2.2.4、 配置yarn-site.xml

yarn.nodemanager.aux-services

mapreduce_shuffle

yarn.nodemanager.aux-services.mapreduce.shuffle.class

org.apache.hadoop.mapred.ShuffleHandler

2.2.2.5、 配置slaves

localhost

2.2.2.6、 配置hadoop-env.cmd

将JAVA_HOME修改为：

set JAVA_HOME=C:\PROGRA~1\Java\jdk1.8.0_131并在后面追加如下设置：

set HADOOP_IDENT_STRING=%USERNAME%

set HADOOP_PREFIX=C:\Usr\local\hadoop-2.7.3

set HADOOP_CONF_DIR=%HADOOP_PREFIX%\etc\hadoop

set YARN_CONF_DIR=%HADOOP_CONF_DIR%

set PATH=%PATH%;%HADOOP_PREFIX%\bin

注：C:\PROGRA~1 用于替代 C:\Program Files

2.3、替换Hadoop windows可执行程序

下载winutils相关，hadoop在windows上运行需要winutils支持和hadoop.dll等文件。下载地址下载对应版本的就可以，例如我用的是2.7.3，可以直接下载2.7.1的就好。然后把winutils.exe和hadoop.dll复制到hadoop的bin目录下;

2.4、启动Hadoop

1.格式化HDFS

打开cmd

cd c:\usr\local\hadoop-2.7.3\bin

hdfs namenode -format

2.启动Hadoop

打开cmd

cd c:\usr\local\hadoop-2.7.3\sbin

start-all.cmd

3.简单的HDFS操作

查看信息：

hadoop fs -ls hdfs://localhost:9000/

创建目录：

· hadoop fs -lmkdir hdfs://localhost:9000/user/wc·

上传文件：

hadoop fs -put C:\Usr\local\hadoop\LICENSE.txt hdfs://localhost:9000/user/wc