用mapreduce计算wordCount和手机流量统计程序运行过程

WordCount统计

I.         建立工程Wordcount2,新建一个Folder命令为lib,并导入mapreduce相关jar

II.       编写Map

III.      编写Reduce

 

IV.     编写运行程序Main

 

V.       打包成jar

A.       右键工程,点击Export


B.       选择java里的JAR file,进行打包


C.       指定jar包的路径

 

D.       点击Next下一步

                                   

E.        选择Main class

        

 

F.         点击Finish 生成jar包。右键查看属性看看jar包大小,太小表示压缩不成功

 

 

 

G.       把生成的jar包复制到/opt目录里


H.       在根目录下创建一个wordcount目录,并新建两个文件hello1.txthello2.txt

  

I.          进入hadoop目录下启动hadoop

 

J.         把本地目录/wordcount上传到hdfs上的/wordcount目录下

 

K.       运行jar包。开始计算hello1hello2文件的内容

 

 

 

L.        查看/output目录,查看/output/part-r-00000里的内容

 

 

 

 

手机流量统计

VI.      建立工程phoneflow,新建一个Folder命令为lib,并导入mapreduce相关jar

VII.    封装一个PhoneFlow实体类


VIII. 编写Map


IX.      编写Reduce


X.       编写运行程序Main

 

XI.      打包成jar

A.       右键工程,点击Export

B.       选择java里的JAR file,进行打包

C.       选择java里的JAR file,进行打包

D.       点击Next下一步

E.        选择Main class

F.         点击Finish 生成jar包。右键查看属性看看jar包大小,太小表示压缩不成功

G.       把生成的jar包复制到/opt目录里


 

 

 

H.phone.log文件复制在/opt目录下

 

 

I.hdfs上创建一个新目录/phoneflow,并把/opt/phone.log文件上传到/phnoeflow/phone.log

 

 

J. 运行PhoneFlow.jar包。开始计算phone.log文件里的内容

 

K.查看/pfoutput目录,查看/pfoutput/part-r-00000里的内容

 


附件:日志的格式和内容


 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值