用户日志分析

用户行为日志

概念:

用户每次访问网站时所有的行为数据(访问, 浏览, 搜索, 点击)**

用户行为轨迹, 流量日志

意义

1. 网站的眼睛
2. 网站的神经(网页布局等)
3. 网站的大脑

日志数据内容(可用nginx进行配置获取)

1. 访问的系统属性: 操作系统, 浏览器等
2. 访问特征: 点击的url, 从哪个url跳转过来的, 页面上停留时间
3. 访问信息:　session_id, 访问ip(访问城市)等

数据处理流程(离线数据处理流程)

1. 数据采集

   ​ Flume框架: web日志写入到HDFS

2. 数据清洗

   ​ Spark、Hive、MapReduce 或者其他一些分布式计算框架

   ​ 清洗完后可以存放在HDFS（Hive/Spark SQL）

3. 数据处理

   ​ 按照需求进行相应业务的统计和分析

   ​ Spark、Hive、MapReduce 或者其他一些分布式计算框架

4. 处理数据入库

   ​ 结果可以存放到RDBMS(关系型数据库), NoSQL

5. 数据可视化

   ​ 入库结果通过图形化展示的方式展现出来:　饼图,柱状图, 地图, 折线图

   ​ ECharts、HUE、Zeppelin

离线数据处理架构