离线数据分析流程之网站或APP点击流日志数据挖掘系统

一、案例需求描述 

     “Web点击流日志”包含着网站运营很重要的信息，通过日志分析，我们可以知道网站的访问量，哪个网页访问人数最多，哪个网页最有价值，广告转化率、访客的来源信息，访客的终端信息等。

二、数据来源

       本案例的数据主要由用户的点击行为记录

       获取方式：在页面预埋一段js程序，为页面上想要监听的标签绑定事件，只要用户点击或移动到标签，即可触发ajax请求到后台servlet程序，用log4j记录下事件信息，从而在web服务器（nginx、tomcat等）上形成不断增长的日志文件。

形如：

58.215.204.118 - - [18/Sep/2013:06:51:35 +0000] "
GET /wp-includes/js/jquery/jquery.js?ver=1.10.2 
HTTP/1.1" 304 0 "http://blog.fens.me/nodejs-socketio-chat/" 
"Mozilla/5.0 (Windows NT 5.1; rv:23.0) Gecko/20100101 Firefox/23.0"

三、数据处理流程

      1、流程图解析

      整体流程如下：

    1)        数据采集：定制开发采集程序，或使用开源框架FLUME

    2)        数据预处理：定制开发mapreduce程序运行于hadoop集群

    3)        数据仓库技术：基于hadoop之上的Hive

    4)        数据导出：基于hadoop的sqoop数据导入导出工具

    5)        数据可视化：定制开发web程序或使用kettle等产品

    6)        整个过程的流程调度：hadoop生态圈中的oozie工具或其他类似开源产品

四、项目技术架构图