第2阶段试卷

有两个海量日志文件存储在hdfs上， 其中登陆日志格式：user，ip，time，oper（枚举值：1为上线，2为下线）；访问日志格式为：ip，time，url，假设登陆日志中上下线信息完整，且同一上下线时间段内使用的ip唯一，计算访问日志中独立user数量最多的前10个url，用MapReduce实现。

提示：
1、要统计前10，需要两个步骤，第一个步骤实现join，统计出每个url对应的独立用户数，第二步骤求出top10
2、两个大表join，用同一job多输入
3、要根据ip字段join，所以要根据ip分区

4、求top10

 

注：
1、独立用户/独立访客：是指不同的、通过互联网访问、浏览这个网页的自然人。英文简写UV，全称unique visitor。

 

 

详见代码。

转载于:https://www.cnblogs.com/mediocreWorld/p/11196723.html