hadoop3.0结构目录介绍和hdfs的本地模式搭建

使用tree命令查看hadoop的目录机构:tree -d -L 3 hadoop-3.1.2/

-d 表示查看的是文件夹

-L 表示查看深度 

hadoop-3.1.2 具体查看那个目录

也可以用tree命令直接查看,但是由于hadoop目录太深且文件较多所以展开不太现实

然后我们就看一下hadoop的结构目录:

hadoop本地模式没有Hdfs功能没有Mapreduce功能,所以它修改特别方便

只需etc目录下的hadoop-env.sh中的:

默认export JAVA_HOME是被注释掉的,我们放开并把它附上我们之前配置好的java的全路径也行,配置它的环境变量也行

这里注意了,需要配置JAVA_HOME的全路径,它的环境变量不行我以为可以获取到,但是在我配置伪分布后启动的时候这里

就报错了

[root@bigdata111 ~]# start-all.sh
Starting namenodes on [bigdata111]
上一次登录:五 3月 20 12:45:07 CST 2020从 192.168.112.111pts/1 上
bigdata111: ERROR: JAVA_HOME is not set and could not be found.
Starting datanodes
上一次登录:五 3月 20 12:52:09 CST 2020pts/0 上
localhost: ERROR: JAVA_HOME is not set and could not be found.
Starting secondary namenodes [bigdata111]
上一次登录:五 3月 20 12:52:10 CST 2020pts/0 上
bigdata111: ERROR: JAVA_HOME is not set and could not be found.
Starting resourcemanager
上一次登录:五 3月 20 12:52:13 CST 2020pts/0 上
resourcemanager is running as process 12903.  Stop it first.
Starting nodemanagers
上一次登录:五 3月 20 12:52:20 CST 2020pts/0 上
localhost: ERROR: JAVA_HOME is not set and could not be found.

然后我们测试一下这个hadoop,我们就是用hadoop提供的一个wordcount的mapreduce程序测试

首先准备一个文件在/root/temp/input/data.txt

文件内容:

I love Beijing 

I love China

Beijing of the capital of china

我们先看一下这个目录中有哪些程序,使用hadoop jar hadoop-mapreduce-examples-3.1.2.jar 

我们就是用图中那个wordcount的例子 ,执行如下命令

hadoop jar hadoop-mapreduce-examples-3.1.2.jar wordcount  /root/temp/input/ /root/temp/output/wc

/root/temp/input/   :表示输入程序的位置,可以是文件夹,也可以是具体某个文件,如果是文件夹的或那表示这个文件夹下的所有文件

/root/temp/ountput/wc :表示计算结果输出目录,最后一级不能事先存在

如果存在了他会把一个错误

如果正常执行那么就在你的输出文件夹生成俩个文件,

—SUCCESS 是一个状态文件表示成功

part-r-00000就是计算结果文件

最后我们查看这个文件会得到如下结果,说明你就搭建完成了,不过本地默认一般没有什么作用

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

枣泥馅

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值