Hadoop(四)MapReducer集群模式下运行WordCount的两种方式

本测试用的代码样例

  • WordCount源码在我的另一个博客链接如下:
https://blog.csdn.net/Kruskual/article/details/108487446

打包前的准备工作

  • 上传文件到集群
    红框内为上传按钮在这里插入图片描述

  • 查看集群的文件目录
    我们要修改源码中的输入输出路径,改为集群上的路径
    输入路径存放你要计数的文件,输出路径为不存在路径。
    打开集群,登录hdfs网页即在浏览器输入hadoop32:9870(这是我的,不懂的去看我的hadoop急速入门博客)
    打开集群,登录hdfs网页红色红色框内为查看目录信息,绿色框内为当前目录,我把word.txt放在了input里,在这就不展示了。

  • 修改路径
    如图所示:在这里插入图片描述

  • 关联自己的driver
    代码如下

//关联Jar
       job.setJarByClass(WordCountDriver.class);

在这里插入图片描述

集群模式下运行方式一:提交jar包

  • 用maven打jar包

在这里插入图片描述在这里插入图片描述

将打包好的jar包上传到hadoop32
我的网卡了,明天搞输入代码

hadoop jar MRTest-1.0-SNAPSHOT.jar com.yuaf.wordcount.WordCountDriver /user/yuaf/input /user/yuaf/output

看到

在这里插入图片描述在web端口看到出现output文件夹且有文件。
在这里插入图片描述我们打开查看一下
在这里插入图片描述此时看到和单机模式下结果一样。

方式二:在集群上直接提交

先留着,过几天再跟,这周无休难受!

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值