通过hadoop jar命令运行提交MapReduce到YARN中

本文介绍了在Hadoop中使用MapReduce进行Wordcount任务的完整步骤,涉及文件操作、命令行提交和查看结果。
摘要由CSDN通过智能技术生成

实现 Wordcount

大概流程:给定数据输入的路径,给定结果输出的路径;

将输入路径内的数据中的单词进行计数,将结果写到输出路径

如下:

在hadoop下找hadoop-mapreduce-examples-3.1.3.jar   

cd /opt/module/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar 

切换到home路径(~)

cd ~

编辑一个文档word.txt

vim word.txt

#在里面随便输入单词

通过如下查看hadoop下已有文件

hadoop fs -ls /

在hadoop下创建input和output文件夹

hadoop fs -mkdir -p /input
hadoop fs -mkdir /output

再查看

hadoop fs -ls /

将word.txt放入hadoop的input文件夹下

 hadoop fs -put words.txt input/

可再次查看确认;

通过hadoop jar命令运行提交MapReduce到YARN中,并存到output的wc下:

hadoop jar /opt/module/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount hdfs://master:9000/input hdfs://master:9000/output/wc

通过

hadoop fs -ls /output/wc

查看wc文件

再通过

hadoop fs -cat /output/wc/part-r-00000

就完成了

  • 16
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值