Windows安装Hadoop3.1.4

1、安装JDK1.8

配置环境变量:

JAVA_HOME=D:\java\jdk1.8.0_181

PATH=PATH;%JAVA_HOME%\bin

 

2、下载Hadoop3.1.4

访问下载链接: https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.1.4/hadoop-3.1.4.tar.gz 下载hadoop-3.1.4.tar.gz,并解压到规划的路径下,如下图:

 

3、下载Windows工具包

访问 https://github.com/cdarlint/winutils, 找到对应版本的hadoop(小版本可能不存在),下载hadoop.dll 和 winutils.exe,并复制到...\hadoop-3.1.4\bin目录下

 

 

4、配置hadoop配置文件

配置文件路径...\hadoop-3.1.4\etc\hadoop

4.1 core-site.xml(配置默认hdfs的访问端口)

<configuration>

    <property>

    <name>fs.default.name</name>

    <value>hdfs://localhost:9000</value>

   </property>

</configuration>

4.2 hdfs-site.xml(设置web管理页面的端口。设置复制数为1,即不进行复制。namenode文件路径以及datanode数据路径。)

<configuration>

    <property>

        <name>dfs.http.address</name>

        <value>localhost:50070</value>

    </property>

    <property>

      <name>dfs.replication</name>

      <value>1</value>

    </property>

    <property>

        <name>dfs.namenode.name.dir</name>

        <value>file:/hadoop/data/dfs/namenode</value>

    </property>

    <property>

        <name>dfs.datanode.data.dir</name>

        <value>file:/hadoop/data/dfs/datanode</value>

    </property>

</configuration>

4.3 yarn-site.xml(这里yarn设置使用了mr混洗)

<configuration>

    <property>

        <name>yarn.nodemanager.aux-services</name>

        <value>mapreduce_shuffle</value>

    </property>

    <property>

        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>

        <value>org.apache.hadoop.mapred.ShuffleHandler</value>

    </property>

</configuration>

4.4 mapred-site.xml(设置mr使用的框架,这里使用yarn)

<configuration>

    <property>

        <name>mapreduce.framework.name</name>

        <value>yarn</value>

    </property>

</configuration>

4.5 hadoop-env.cmd(设置JDK的HOME路径)

set JAVA_HOME=D:\java\jdk1.8.0_181

 

5、格式化hdfs

执行下面的命令,格式化hdfs:

cd ...\hadoop-3.1.4\bin (脚本的路径)

hadoop namenode -format (格式化命令)

 

6、启动hadoop

cd ...\hadoop-3.1.4\sbin (脚本的路径)

start-dfs.cmd (单独启动hdfs)

start-yarn.cmd (单独启动yarn)


start-all.cmd (一键启动hdfs和yarn)

7、通过管理端验证hadoop

浏览器输入:http://localhost:8088,查看集群状态

浏览器输入:http://localhost:50070,查看Hadoop状态

 

8、关闭Hadoop

cd ...\hadoop-3.1.4\sbin (脚本的路径)

stop-dfs.cmd (单独启动hdfs)

stop-yarn.cmd (单独启动yarn)


stop-all.cmd (一键启动hdfs和yarn)

 

 

 

  • 1
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

军大_j

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值