Python老司机带你快速搞定日志分析工具_python分析统计squid日志(1)

对于其他格式的 nginx 日志或者 Apache 日志，按照如上原则，稍作就可以使用该工具分析处理。


**对于异常日志的处理**


如果想靠空格或双引号来分割各段的话，主要问题是面对各种不规范的记录时(原因不一而足，而且也是样式繁多)，无法做到将各种异常都考虑在内，所以项目中采用了 `re`模块而不是简单的 `split()`函数的原因。代码里对一些“可以容忍”的异常记录通过一些判断逻辑予以处理；对于“无法容忍”的异常记录则返回空字符串并将日志记录于文件。  
 其实对于上述的这些不规范的请求，最好的办法是在nginx中定义日志格式时，用一个特殊字符作为分隔符，例如“|”。这样就不需要re模块，直接字符串分割就能正确的获取到各段(性能会好些)。


**log\_show.py使用说明：**


帮助信息

[ljk@demo ~]$ log_show --help
Usage:
log_show <site_name> [options] request [distribution []|detail ]
log_show <site_name> [options] ip [distribution |detail ]
log_show <site_name> [options] error [distribution <error_code>|detail <error_code>]
Options:
-h --help Show this screen.
-f --from <start_time> Start time. Format: %y%m%d[%H[%M]], %H and %M is optional
-t --to <end_time> End time. Format is same as --from
-l --limit Number of lines in output, 0 means no limit. [default: 5]
-s --server Web server hostname
-g --group_by <group_by> Group by every minute, every ten minutes, every hour or every day,
valid values: “minute”, “ten_min”, “hour”, “day”. [default: hour]
distribution Show distribution(about hits,bytes,time,etc) of:
all or specific ‘request’, the specific ‘ip’, the specific ‘error_code’ in every period.
Period is specific by --group_by
detail Show details of:
detail ‘args’ analyse of the specific ‘uri’(if it has args);
detail ‘uri’ analyse of the specific ‘ip’ or ‘error_code’
Notice: it’s best to put ‘request_uri’, ‘uri’ and ‘ip’ in quotation marks.

所有示例均可通过 `-f`， `-t`， `-s`参数对 `起始时间`和 `指定server`进行过滤


request子命令


对指定站点今日已入库的数据进行分析

[ljk@demo ~]$ log_show api request -l 3

Total_hits:999205 invalid_hits:581

 hits  percent           time_distribution(s)                     bytes_distribution(B)              uri_abs

430210 43.06% %25<0.01 %50<0.03 %75<0.06 %100<2.82 %25<42 %50<61 %75<63 %100<155 /api/record/getR
183367 18.35% %25<0.02 %50<0.03 %75<0.06 %100<1.73 %25<34 %50<196 %75<221 %100<344 /api/getR/com///*
102299 10.24% %25<0.02 %50<0.02 %75<0.05 %100<1.77 %25<3263 %50<3862 %75<3982 %100<4512 /view////.js

Total_bytes:1.91 GB

bytes  percent           time_distribution(s)                     bytes_distribution(B)              uri_abs

1.23 GB 64.61% %25<0.03 %50<0.04 %75<0.1 %100<1.96 %25<2549 %50<17296 %75<31054 %100<691666 /api/NewCom/list
319.05 MB 16.32% %25<0.02 %50<0.02 %75<0.05 %100<1.77 %25<3263 %50<3862 %75<3982 %100<4512 /view////.js
167.12 MB 8.55% %25<0.15 %50<0.19 %75<0.55 %100<2.93 %25<2791 %50<3078 %75<3213 %100<11327 /api/getR/com//

Total_time:117048s

cum. time percent time_distribution(s) bytes_distribution(B) uri_abs
38747 33.10% %25<0.01 %50<0.03 %75<0.06 %100<2.82 %25<42 %50<61 %75<63 %100<155 /api/record/getR
22092 18.87% %25<0.02 %50<0.03 %75<0.06 %100<1.73 %25<34 %50<196 %75<221 %100<344 /api/getR/com///*
17959 15.34% %25<0.15 %50<0.19 %75<0.55 %100<2.93 %25<2791 %50<3078 %75<3213 %100<11327 /api/getRInfo/com//

通过上例可观察指定时间内（默认当天0时至当前时间）hits/bytes/time三个维度的排名以及响应时间和响应大小的分布情况。例如，看到某个uriabs只有比较少的hits确产生了比较大的bytes或耗费了较多的time，那么该uriabs是否值得关注一下呢。


ip子命令


显示基于ip地址的分析结果

[ljk@demo ~]$ log_show.py api ip -l 2

From_cdn/Proxy: hits hits(%) bytes bytes(%) time(%)
==================== 199870 99.94 570.51 MB 99.99 99.99
Last_cdn_ip
xxx.57.xxx.189 1914 0.96 696.18 KB 0.12 0.68
xxx.206.xxx.154 1741 0.87 1.56 MB 0.27 0.98
User_ip_via_cdn
xxx.249.xxx.56 787 0.39 154.82 KB 0.03 0.23
xxx.60.xxx.86 183 0.09 1.05 MB 0.18 0.13

From_reverse_proxy: hits hits(%) bytes bytes(%) time(%)
==================== 66 0.03 68.83 KB 0.01 0.01
User_ip_via_proxy
xxx.188.xxx.21 2 0.00 1.53 KB 0.00 0.00
xxx.5.xxx.4 2 0.00 324.00 B 0.00 0.00

From_client_directly: hits hits(%) bytes bytes(%) time(%)
==================== 64 0.03 8.32 KB 0.00 0.00
Remote_addr
192.168.1.202 29 0.01 58.00 B 0.00 0.00
192.168.1.200 29 0.01 58.00 B 0.00 0.00

IP分析的思想是将请求按来源归为三大类：Fromcdn/Proxy，Fromreverseproxy，Fromclient\_directly，然后各自分类内按请求次数对IP地址进行排序


distribution 子命令


1. 对 “所有request” 或 “指定uri/request\_uri” 按 “分/十分/时/天” 为粒度进行聚合统计
2. 对 “指定IP” 按 “分/十分/时/天” 为粒度进行聚合统计


适用场景：查看request/IP随时间在各聚合粒度内各项指标的变化情况，例如针对某个uri发现其请求数（或带宽）变大，则可通过 `distribution`子命令观察是某一段时间突然变大呢，还是比较平稳的变大

示例1: 分析指定request的分布情况, 指定按minute进行分组聚合, 默认显示5行

[ljk@demo ~]$ python log_show.py api request distribution “/view//.json” -g minute

uri_abs: /view//.json
Total_hits: 17130 Total_bytes: 23.92 MB

minute hits hits(%) bytes bytes(%) time_distribution(s) bytes_distribution(B)
1803091654 1543 9.01% 2.15 MB 8.98% %25<0.03 %50<0.03 %75<0.05 %100<1.07 %25<1532 %50<1593 %75<1645 %100<1982
1803091655 1527 8.91% 2.13 MB 8.88% %25<0.03 %50<0.04 %75<0.05 %100<1.04 %25<1538 %50<1592 %75<1642 %100<2143
1803091656 1464 8.55% 2.05 MB 8.57% %25<0.03 %50<0.04 %75<0.05 %100<1.03 %25<1536 %50<1592 %75<1642 %100<1952
1803091657 1551 9.05% 2.15 MB 8.97% %25<0.02 %50<0.03 %75<0.04 %100<0.89 %25<1534 %50<1594 %75<1639 %100<1977
1803091658 1458 8.51% 2.06 MB 8.61% %25<0.02 %50<0.03 %75<0.04 %100<2.35 %25<1540 %50<1596 %75<1644 %100<2146

通过上例，可展示"/view/\*/\*.json"在指定时间段内的分布情况，包括hits/bytes/time总量以及每个粒度内个指标相对于总量的占比；该子命令亦能展示各指标随时间的“趋势”。


说明： minute字段为指定的聚合（group）粒度，1803091654 表示“18年03月09日16时54分”  
 可通过 `-g`参数指定聚合的粒度（minute/tenmin/hour/day）  
`distribution`子命令后可以跟具体的uri/requesturi（显示该uri/request\_uri以指定粒度随时间的分布）或不跟uri（显示所有请求以指定粒度随时间的分布）

示例2: 分析指定IP产生的请求数/带宽随时间分布情况, 默认聚合粒度为hour

[ljk@demo ~]$ python log_show.py api ip -t 180314 distribution “140.206.109.174” -l 0

IP: 140.206.109.174
Total_hits: 10999 Total_bytes: 4.83 MB

 hour        hits  hits(%)       bytes  bytes(%)

18031306 1273 11.57% 765.40 KB 15.47%
18031307 2133 19.39% 1004.74 KB 20.31%
18031308 2211 20.10% 1.00 MB 20.74%
18031309 2334 21.22% 1.05 MB 21.72%
18031310 2421 22.01% 850.79 KB 17.20%
18031311 627 5.70% 226.30 KB 4.57%

说明： hour字段表示默认的聚合粒度，18031306表示“18年03月13日06时”  
 -l 0 表示不限制输出行数（即输出所有结果）


**detail 子命令：**


1. 对某一uri进行详细分析，查看其不同参数（args）的各项指标分布
2. 对某一IP进行详细分析，查看其产生的请求在不同uri\_abs间的分布情


适用场景：比如定位到某一类型的uriabs在某方面（hits/bytes/time）有异常，就可以通过detail子命令对该类uriabs进行更近一步的分析，精确定位到是哪种参数（args\_abs）导致的异常；或者观察到某个IP访问异常，可以再深入一下该IP是泛泛的访问呢，还是只对某些uri感兴趣。


**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**