**工作中常见shell，结合awk**

 

 
  
  1. 系统连接状态篇： 
  2.  
  3.   
  4.  
  5. 1.查看TCP连接状态 
  6.  
  7. netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 
  8.  
  9.   
  10.  
  11. 2.查找请求数请20个IP（常用于查找攻来源）： 
  12.  
  13. netstat -anlp|grep 80|grep tcp|awk '{print $5}'|awk -F: '{print $1}'|sort|uniq -c|sort -nr|head -n20 
  14.  
  15. netstat -ant |awk '/:80/{split($5,ip,":");++A[ip[1]]}END{for(i in A) print A[i],i}'|sort -rn|head -n20 
  16.  
  17.   
  18.  
  19. 3.用tcpdump嗅探80端口的访问看看谁最高 
  20.  
  21. tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' |sort | uniq -c | sort -nr |head -20 
  22.  
  23.   
  24.  
  25. 4.查找较多time_wait连接 
  26.  
  27. netstat -n|grep TIME_WAIT|awk '{print $5}'|sort|uniq -c|sort -rn|head -n20 
  28.  
  29.   
  30.  
  31. 5.找查较多的SYN连接 
  32.  
  33. netstat -an | grep SYN | awk '{print $5}' | awk -F: '{print $1}' | sort | uniq -c |sort -nr | more 
  34.  
  35.   
  36.  
  37. 6.根据端口列进程 
  38.  
  39. netstat -ntlp | grep 80 | awk '{print $7}' | cut -d/ -f1 
  40.  
  41.   
  42.  
  43. 网站日志分析篇1（Apache）： 
  44.  
  45.   
  46.  
  47. 1.获得访问前10位的ip地址 
  48.  
  49. cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10 
  50.  
  51. cat access.log|awk '{counts[$(11)]+=1}; END {for(url in counts) print counts[url], url}' 
  52.  
  53.   
  54.  
  55. 2.访问次数最多的文件或页面,取前20 
  56.  
  57. cat access.log|awk '{print $11}'|sort|uniq -c|sort -nr|head -20 
  58.  
  59.   
  60.  
  61. 3.列出传输最大的几个exe文件（分析下载站的时候常用） 
  62.  
  63. cat access.log |awk '($7~/\.exe/){print $10 " " $1 " " $4 " " $7}'|sort -nr|head -20 
  64.  
  65.   
  66.  
  67. 4.列出输出大于200000byte(约200kb)的exe文件以及对应文件发生次数 
  68.  
  69. cat access.log |awk '($10 > 200000 && $7~/\.exe/){print $7}'|sort -n|uniq -c|sort -nr|head -100 
  70.  
  71.   
  72.  
  73. 5.如果日志最后一列记录的是页面文件传输时间，则有列出到客户端最耗时的页面 
  74.  
  75. cat access.log |awk  '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head-100 
  76.  
  77.   
  78.  
  79. 6.列出最最耗时的页面(超过60秒的)的以及对应页面发生次数 
  80.  
  81. cat access.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100 
  82.  
  83.   
  84.  
  85. 7.列出传输时间超过 30 秒的文件 
  86.  
  87. cat access.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20 
  88.  
  89.   
  90.  
  91. 8.统计网站流量（G) 
  92.  
  93. cat access.log |awk '{sum+=$10} END {print sum/1024/1024/1024}' 
  94.  
  95.   
  96.  
  97. 9.统计404的连接 
  98.  
  99. awk '($9 ~/404/)' access.log | awk '{print $9,$7}' | sort 
  100.  
  101.   
  102.  
  103. 10. 统计http status. 
  104.  
  105. cat access.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts1}' 
  106.  
  107. cat access.log |awk '{print $9}'|sort|uniq -c|sort -rn 
  108.  
  109.   
  110.  
  111. 10.蜘蛛分析 
  112.  
  113. 查看是哪些蜘蛛在抓取内容。 
  114.  
  115. /usr/sbin/tcpdump -i eth0 -l -s 0 -w - dst port 80 | strings | grep -i user-agent |grep -i -E 'bot|crawler|slurp|spider' 
  116.  
  117. 数据库篇 
  118.  
  119. 1.查看数据库执行的sql 
  120.  
  121. /usr/sbin/tcpdump -i eth0 -s 0 -l -w - dst port 3306 | strings | egrep -i'SELECT|UPDATE|DELETE|INSERT|SET|COMMIT|ROLLBACK|CREATE|DROP|ALTER|CALL'