Hadoop 下 WordCount 程序运行方法及过程分析

1 WordCount 程序运行方法


现在有四个小的文本

这里写图片描述

文本内容分别是

这里写图片描述

把这四个文件所在的文件夹 input 放在 HDFS 中

这里写图片描述

运行 Hadoop 自带的 WordCount 程序

hadoop jar /usr/local/etc/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep /input /output '[a-z]+'

这里写图片描述

查看生成的结果

这里写图片描述


2 程序运行的原理(MapReduce工作过程)

map 节点

这里写图片描述

reduce 节点

这里写图片描述

这里写图片描述


3 参考资料

1、MapReduce原理与设计思想
http://www.cnblogs.com/wuyudong/p/mapreduce-principle.html

2、第一个MapReduce程序——WordCount
http://blog.csdn.net/lisonglisonglisong/article/details/47125319

3、Hadoop集群(第6期)_WordCount运行详解
https://www.cnblogs.com/xia520pi/archive/2012/05/16/2504205.html

4、Java笔记—Hadoop 2.7.1下WordCount程序详解
http://blog.csdn.net/gulu_gulu_jp/article/details/51298164


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值