Hadoop-hdfs下载
● Windows下配置Hadoop环境
● 首先下载hadoop2.7.7
● 下载官网的hadoop2.7.7,链接:https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/
● 网盘链接:https://pan.baidu.com/s/1PW9cDOVow8wuZovq–Ay-Q 提取码:hdfs
● hadooponwindows-master
● 链接:https://pan.baidu.com/s/1G69b80k-A8JLkEzz0G93qw 提取码:hdfs
● 把hadoop-2.7.7.tar.gz解压后,使用hadooponwindows-master的bin和etc替换hadoop2.7.7的bin和etc
● 配置系统的环境变量
● 配置JAVA_HOME
● 配置HADOOP_HOME
● 安装Hadoop2.7.7,安装时注意,最好不要安装到带有空格的路径名下,例如:Programe Files,否则在配置Hadoop的配置文件时会找不到JDK
● path添加%HADOOP_HOME%\bin
● 使用编辑器打开D:\Hadoop\hadoop-2.7.7\etc\hadoop\hadoop-env.cmd
● 修改JAVA_HOME的路径
● 把set JAVA_HOME改为jdk的位置
● 使用编辑器打开D:\Hadoop\hadoop-2.7.7\etc\hadoop\hdfs-site.xml
● 修改路径为hadoop下的namenode和datanode
● dfs.replication 1 dfs.namenode.name.dir /D:/Hadoop/hadoop-2.7.7/data/namenode dfs.datanode.data.dir /D:/Hadoop/hadoop-2.7.7/data/datanode dfs.permissions false
● 创建两个文件夹,名字如下,其中data下还要创建两个文件夹
● 把D:\Hadoop\hadoop-2.7.7\bin\hadoop.dll拷贝到 C:WindowsSystem32
● 以管理员身份打开命令提示符,输入hdfs namenode -format,看到seccessfully就说明format成功
● 启动: 在D:\Hadoop\hadoop-2.7.7\sbin 下打开命令行cmd ,输入start-all,启动hadoop集群(stop-all关闭)
● 访问:http://localhost:50070,访问hadoop的web界面
● JAVA代码实例
● https://gitee.com/zeng-tingjun/hadoop.git