电商大数据分析平台(三)nginx配置及flume读取日志信息

本文详细介绍了如何配置nginx以记录客户端事件,并通过Flume监听nginx的access.log,将session信息存入HDFS。首先,讲解了nginx简单配置,包括地址配置和日志格式设置。接着,阐述了Flume使用exec source监控access.log,并配置HDFS sink进行数据写入。最后,通过测试运行验证了整个流程,当用户访问web页面时,nginx接收到session信息,Flume将其存储到HDFS中。
摘要由CSDN通过智能技术生成

一、nginx配置

在本项目中nginx的作用只是接收客户端发送的事件,并将相应的session写入日志文件中,所以配置较为简单,只需要配置写入的日志文件和写入的格式

1.地址配置

        server {
                listen       80;
                location = /index{
                        index index.html index.html;
                        root /data/www/vhost1;
                        }
                location /log.gif{
                        root /data/www/vhost1;
                        access_log /var/log/nginx/access.log main;
                        }

2.日志格式设置

nginx写入日志的内容为客户端地址,跳转到web页面前的地址,服务器端地址,请求url,以“ - ”(空格-空格)隔开。

log_format main  '$remote_addr - $http_referer - $server_addr - $request_uri';

二、flume配置

flume在这里主要是对nginx产生的access.log文件进行监听,当有session记录时flume将其提取并写入HDFS中,flume的source端用的是exec的source,即通过命令监控,命令的话为tail -F /var/log/nginx

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值