手机流量分析项目


# 手机流量分析项目
# 一、需求分析

统计每个手机号上行流量和、下行流量和、总流量和(上行流量和+下行流量和),并且:将统计结果按照手机号的前缀进行区分,并输出到不同的输出文件中去。

13* ==> ..
15* ==> ..
other ==> ..
其中,access.log数据文件

第二个字段:手机号
倒数第三个字段:上行流量倒数第二个字段:下行流量
# 二、思路:
根据手机号进行分组,然后把该手机号对应的上下行流量加起来。
## 1.Mapper

把手机号、上行流量、下行流量拆开。
把手机号作为key,把Access作为value写出去。
## 2.Reducer
自定义分区类(需要继承Partitioner抽象类),并覆写getPartition()方法

# 三、开发步骤:
## (1)自定义Access类。
包括属性:手机号、上行流量、下行流量、总流量 
## (2)自定义Map任务类(Map Task)
对每一行日志内容进行拆分,Map输出数据为:
phone==>Access(手机号,该行手机号的上行流量,该行手机号的下行流量)

## (3)编写Reduce任务类(Reduce Task)
对每个手机号的流量进行汇总,Map输出数据为:
phone==>Access(手机号,上行流量和,下行流量和)
也可以优化为:
phone==>Access(NullWritable对象,上行流量和,下行流量和)
 
 ## (4)编写分区处理类
 继承org.apache.hadoop.mapreduce.Partitioner
类,"13"开头的手机号交给第一个ReduceTask任务处理,最终输出到0号分区,"15"开头的手机号交给第二个ReduceTask任务处理,最终输出到1号分区,其余手机号交给第三个
ReduceTask任务处理,最终输出到2号分区。

  • 9
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值