项目 :日志分析平台

本文详细介绍了如何构建一个日志分析平台,从获取Nginx的访问日志开始,经过ETL数据清洗,搭建数据仓库,再到将分析结果保存到MySQL,并设置定时任务自动化整个流程。主要涉及的技术包括Nginx、Hadoop、Flume、MapReduce、数据仓库和Crontab。
摘要由CSDN通过智能技术生成

第一步  获取数据源

1.安装nginx  sudo apt-get install nginx   安装过的如下:

 2.上传shop.html 文件到 /var/www/shop.html

3.在网页上查看shop.html 的数据日志信息

4.监控nginx生成的访问日志使用以下命令

suodo tail -F /var/log/nginx/access.log

第二步  采集日志数据

(1)开启三台虚拟机

master      slave1   slave2

(2)开启zookeeper

master

slave1

 

slave2

(3)开启hadoop直接群起

master

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值