纯手工玩转 Nginx 日志

转载 2015年07月08日 19:18:39

纯手工玩转 Nginx 日志

转自

http://blog.eood.cn/nginx_logs

Nginx 日志对于大部分人来说是个未被发掘的宝藏,总结之前做某日志分析系统的经验,和大家分享一下 Nginx 日志的纯手工分析方式。

Nginx 日志相关配置有 2 个地方:access_log 和 log_format 。

默认的格式:

access_log /data/logs/nginx-access.log;
log_format old '$remote_addr [$time_local] $status $request_time $body_bytes_sent '
'"$request" "$http_referer" "$http_user_agent"';

相信大部分用过 Nginx 的人对默认 Nginx 日志格式配置都很熟悉,对日志的内容也很熟悉。但是默认配置和格式虽然可读,但是难以计算。

Nginx 日志刷盘相关策略可配置:

比如,设置 buffer,buffer 满 32k 才刷盘;假如 buffer 不满 5s 钟强制刷盘的配置如下:

access_log /data/logs/nginx-access.log buffer=32k flush=5s;

这决定了是否实时看到日志以及日志对磁盘 IO 的影响。

Nginx 日志能够记录的变量还有很多没出现在默认配置中:

比如:

请求数据大小:$request_length
返回数据大小:$bytes_sent
请求耗时:$request_time
所用连接序号:$connection
当前连接发生请求数:$connection_requests

Nginx 的默认格式不可计算,需要想办法转换成可计算格式,比如用控制字符 ^A (Mac 下 ctrl+v ctrl+a 打出)分割每个字段。

log_format 的格式可以变成这样:

log_format new '$remote_addr^A$http_x_forwarded_for^A$host^A$time_local^A$status^A'
'$request_time^A$request_length^A$bytes_sent^A$http_referer^A$request^A$http_user_agent';

这样之后就通过常见的 Linux 命令行工具进行分析了:

  • 查找访问频率最高的 URL 和次数:

    cat access.log | awk -F ‘^A’ ‘{print $10}’ | sort | uniq -c

  • 查找当前日志文件 500 错误的访问:

    cat access.log | awk -F ‘^A’ ‘{if($5 == 500) print $0}’

  • 查找当前日志文件 500 错误的数量:

    cat access.log | awk -F ‘^A’ ‘{if($5 == 500) print $0}’ | wc -l

  • 查找某一分钟内 500 错误访问的数量:

    cat access.log | awk -F ‘^A’ ‘{if($5 == 500) print $0}’ | grep ’09:00’ | wc-l

  • 查找耗时超过 1s 的慢请求:

    tail -f access.log | awk -F ‘^A’ ‘{if($6>1) print $0}’

  • 假如只想查看某些位:

    tail -f access.log | awk -F ‘^A’ ‘{if($6>1) print $3″|”$4}’

  • 查找 502 错误最多的 URL:

    cat access.log | awk -F ‘^A’ ‘{if($5==502) print $11}’ | sort | uniq -c

  • 查找 200 空白页

    cat access.log | awk -F ‘^A’ ‘{if($5==200 && $8 < 100) print $3″|”$4″|”$11″|”$6}’

  • 查看实时日志数据流

    tail -f access.log | cat -e

    或者

    tail -f access.log | tr ‘^A’ ‘|’

总结

照着这个思路可以做很多其他分析,比如 UA 最多的访问;访问频率最高的 IP;请求耗时分析;请求返回包大小分析;等等。

这就是一个大型 Web 日志分析系统的原型,这样的格式也是非常方便进行后续大规模 batching 和 streaming 计算。


玩转 Nginx 之:使用 Lua 扩展 Nginx 功能

https://my.oschina.net/leejun2005/blog/494248 1、Nginx 简介 Nginx 作为一款面向性能设计的HTTP服务器,相较于Apache、lightt...
  • yangguangmeng
  • yangguangmeng
  • 2016年12月09日 09:35
  • 8183

Nginx配置文件nginx.conf中文详解(总结)

本文详细介绍了Nginx配置的一些参数说明,为以后的配置提供一定的帮助。有两种方式来通过这些信号去控制 Nginx,第一是通过 logs 目录下的 nginx.pid 查看当前运行的 Nginx 的进...
  • h70614959
  • h70614959
  • 2014年05月23日 16:12
  • 24549

nginx的日志

nginx的日志 nginx的日志包括错误日志和访问日志,分别使用不同的指令来定义其输出位置和相应的级别。 下面介绍其各自的用途。...
  • babyblue_963
  • babyblue_963
  • 2017年02月14日 01:20
  • 3576

nginx服务器ob_flush和flush不起作用

做一个逐行输出,使用ob_flush时试了N种方法不起作用,比如下面的代码: ob_start(); for(;;) {     echo ".......";     ob_flu...
  • jinyif
  • jinyif
  • 2016年09月13日 13:54
  • 1359

nginx ob_flush缓存

[root@localhost ~]# cat /usr/local/nginx/conf/nginx.conf user www www; worker_processes 4; #erro...
  • lumengabc
  • lumengabc
  • 2014年05月16日 11:55
  • 1128

Nginx环境下flush失效问题

最近在用comethttp long poll请求,发现使用nginx反向代理时response.flushBuffer()失效了,请求一直返回504,而直接连接tomcat不会出现问题。 高开...
  • wenluoxicheng
  • wenluoxicheng
  • 2017年06月22日 17:35
  • 111

纯手工玩转 Nginx 日志

Nginx 日志对于大部分人来说是个未被发掘的宝藏,总结之前做某日志分析系统的经验,和大家分享一下 Nginx 日志的纯手工分析方式。 Nginx 日志相关配置有 2 个地方:access_lo...
  • god_7z1
  • god_7z1
  • 2015年06月19日 14:21
  • 344

玩转 Nginx 日志

Nginx 日志相关配置有 2 个地方:access_log 和 log_format 。 默认的格式: access_log /data/logs/nginx-access.log; lo...
  • ll641058431
  • ll641058431
  • 2016年11月26日 13:51
  • 130

玩转tomcat之让世界变的更简单

           在web应用的开发中,我们经常做的工作可能就是 修改 -- 打包 -- 查看 -- 修改 。。。。。。 ,经过n多次的修改和之后我们完成了我们的工作,可是你肯定也被这打包的事弄的...
  • crazy_rain
  • crazy_rain
  • 2007年03月14日 12:30
  • 979

nginx访问日志的默认路径

nginx访问日志的默认路径 /var/log/nginx
  • a694704123b
  • a694704123b
  • 2017年03月28日 18:54
  • 8337
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:纯手工玩转 Nginx 日志
举报原因:
原因补充:

(最多只允许输入30个字)