告警系统配置文件
告警系统监控项目
告警系统邮件引擎
运行告警系统
告警系统配置文件
告警系统mon.conf内容,需要放在conf/目录下;
主要定义一些开关,定义一些对应的日志路径,或者说监控mysql的用户名和密码,以及IP地址port端口等
[root@yjerrylinux01 conf]# vim mon.conf
\## to config the options if to monitor## 定义mysql的服务器地址、端口以及user、password
to\_mon\_cdb=0 ##cdb等于0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
\## httpd 如果是1则监控,为0不监控
to\_mon\_httpd=0
\## php 如果是1则监控,为0不监控
to\_mon\_php_socket=0
\## http\_code\_502 需要定义访问日志的路径
to\_mon\_502=1
logfile=/data/log/www.abc.com/access.log
\## request_count 定义日志路径以及域名
to\_mon\_request_count=0
req_log=/data/log/www.abc.com/access.log
[domainname=www.abc.com](http://domainname=www.abc.com)
在此定义log目的:
要考虑监控的机器肯定不止1台;要想要让脚本通用,兼容性很强,就需要把所有需要监控的服务的日志都载入到配置文件中,改动起来方便,省得后期改动起来一个一个的对应脚本去修改,提高生产效率。
告警系统监控项目
根据主脚本的定义:/bin/bash ../shares/load.sh 在shares目录下创建load.sh脚本。
[root@jerrylinux01 shares]# vim load.sh
#! /bin/bash
load=\`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1\`
#计算系统负载
if \[ $load -gt 10 \] && \[ $send -eq "1" \] //负载超过10,且不在维护模式
then
echo "$addr \`date +%T\` load is $load" >../log/load.tmp
#这条命令的目的是为了发送日志
/bin/bash ../mail/mail.sh txwd188`.com "$addr\\_load:$load" \`cat ../log/load.tmp\`
fi
echo "\`date +%T\` load is $load"
创建告警系统脚本 502.sh
[root@jerrylinux01 shares]# vim 502.sh
#! /bin/bash
d=\`date -d "-1 min" +%H:%M\`
c_502=\`grep :$d: $log |grep ' 502 '|wc -l\`
if \[ $c_502 -gt 10 \] && \[ $send == 1 \]; then
echo "$addr $d 502 count is $c_502">../log/502.tmp
/bin/bash ../mail/mail.sh $addr\\\_502 $c\_502 ../log/502.tmp
fi
echo "\`date +%T\` 502 $c_502"
脚本释义:
截取一分钟前的日志文件并判断,如果502的次数超过10次,或者不在维护模式(主脚本已经定义)就调用mail发邮件,如果没有,仅仅记录日志。
告警系统 disk.sh
[root@jerrylinux01 shares]# vim disk.sh
#! /bin/bash
LANG=en //定义系统语言
rm -f ../log/disk.tmp
\## 用空格或者%为分隔符,筛选出来磁盘使用量的百分比。
for r in \`df -h |awk -F '\[ %\]+' '{print $5}'|grep -v Use\` //查看各个磁盘的已用百分比,返回数字
do
if \[ $r -gt 90 \] && \[ $send -eq "1" \] //判断百分比是否大于90,并且send=1
then
echo "$addr \`date +%T\` disk useage is $r" >>../log/disk.tmp
fi
done
if \[ -f ../log/disk.tmp \]
then
df -h >> ../log/disk.tmp
/bin/bash ../mail/mail.sh $addr\\_disk $r ../log/disk.tmp
echo "\`date +%T\` disk useage is nook"
else
echo "\`date +%T\` disk useage is ok"
fi
注意: [ ]+ 的用法;
[ #%]+ 这里的意思 匹配空格、#、%任意一个或者多个;
告警系统邮件引擎
mail.sh(告警收敛)
做zabbix的时候,做过mail.py的脚本,在这里,直接调用进行使用就可以。
但是告警邮件引擎核心,conf主配置文件调用到的都是mail.sh ,所以这里需要定义调用mail.py的sh脚本
mail.sh目的是做告警收敛,如果不想做告警收敛,在发现问题的时候直接告警就好,但是,可能会发生1分钟前发现问题,1分钟户问题解决,这样就会变成误报,这样会很麻烦
收敛的目的就是1分钟前发现问题,然后到10分钟后,服务还没有恢复,就会告诉管理人员10分钟了服务还未恢复
[root@yjerrylinux01 shares]# cd ../mail/
[root@jerrylinux01 mail]# ls /usr/lib/zabbix/alertscripts/mail.py
/usr/lib/zabbix/alertscripts/mail.py
[root@jerrylinux01 mail]# cp /usr/lib/zabbix/alertscripts/mail.py . //把mail.py复制到mail目录下
[root@jerrylinux01 mail]# ls
[root@jerrylinux01 mail]# vim mail.sh
log=$1 //log作为一个变量,接收来自第一个参数的值
t_s=`date +%s` //时间戳
t_s2=date -d "2 hours ago" +%s
//两个小时前的时间戳
if [ ! -f /tmp/$log ] //如果日志文件不存在
then
echo $t_s2 > /tmp/$log //把两个小时前的时间戳写到日志第一行,从下往上写
fi
t_s2=tail -1 /tmp/$log|awk '{print $1}'
//截取时间戳,最后一行
echo $t_s>>/tmp/$log //追加当前时间戳,写入
v=$[$t_s-$t_s2] //时间戳的时间差(以秒为单位)详情如下①
echo $v
if [ $v -gt 3600 ] //此处的if判断是,当过了1小时如果还是没有恢复再次发告警邮件。调用mail.py(如果没有恢复,每1小时发一次)
then
./mail.py $1 $2 $3 //告警
echo "0" > /tmp/$log.txt //生成一个新的.txt日志。用来记录告警
else
if [ ! -f /tmp/$log.txt ] //判断有没有这个日志文件(计数器文件)
then
echo "0" > /tmp/$log.txt //计数器归零
fi
nu=cat /tmp/$log.txt
//查看计数器的数字
nu2=$[$nu+1] //计数器+1
echo $nu2>/tmp/$log.txt //把计数器写入日志文件(重置)
if [ $nu2 -gt 10 ]
then
./mail.py $1 "trouble continue 10 min $2" "$3" //代表着已经持续了10分钟了
echo "0" > /tmp/$log.txt //重新归零开始计数
fi
fi
脚本解析:
以秒为单位的目的:脚本是每隔一分钟执行一次的,如果触发了就告警,如果短时间搞定或者告警数量很多,告警信息就会影响你解决分析判断问题,如果成千上百台机器,那就是太多了
脚本开始报警,log 的$1是什么? 当报警的时候执行mail.sh 紧接着给了个参数,那个参数就是所谓的$1。t_s 时间戳 t_s2 2小时之前的时间戳,定义两小时的原因就是为了执行下面的if语句,条件成立就实现了咱们的报警条件,开始报警。
发了邮件后,写一个计数器在log.txt中,else我们现在就不执行了,因为那是小于3600才执行的东西。
脚本每分钟执行一次,第二次开始,log,t_s,t_s2相对于第一次只是增加了一分钟,判断文件是否存在,因为上一次刚刚执行过,所以一定是存在的,t_s2就只是增加了60s 所以经过提取给变量v,判断不超过3600,开始执行else的内容,第一次执行的时候已经创建了log.txt 所以是有的且nu为0 nu2为1,nu2不大于10,所以就是再次循环 。
直到执行到最后一步nu2为11了,那也就是到了10分钟了,如果故障还是存在,运维再次收到一个告警邮件,故障已经持续10分钟了。这样就实现了咱们所说的“告警收敛”
如果超过10分钟再次发了邮件,然后执行计数器归0,再次开始重新循环计数。
最后告警解除了,不再调用mail.sh,也就恢复了,不在执行mail.sh了。
假如脚本在执行3分钟的时候,突然故障恢复了,脚本也就不会再次执行,然后计数器保持在2,在计数周期内如果恢复,不告警即不发邮件,但只有在一个小时以后故障才会消失,大于3600的,如果在一个小时内再次报警,还是按照之前的计数器继续执行! 里面用python写的脚本 mail.py 在zabbix这课里面;
运行告警系统
脚本加入crontab 每分钟执行一次
[root@jerrylinux01 mail]# crontab -e
0 0 * * * /usr/local/sbin/nginx_log_rotate.sh
进入bin目录下,执行主脚本;
[root@jerrylinux01 mail]# cd ../bin/
[root@jerrylinux01 bin]# sh -x main.sh
+ export send=1
+ send=1
++ /sbin/ifconfig
++ grep -A1 'ens33: '
++ awk '/inet/ {print $2}'
+ export addr=192.168.112.136
+ addr=192.168.112.136
++ pwd
+ dir=/usr/local/sbin/mon/bin
++ awk -F/ '{print $NF}'
++ echo /usr/local/sbin/mon/bin
+ last_dir=bin
+ '[' bin == bin ']'
+ conf_file=../conf/mon.conf
+ exec
有问题可以根据错误日志,进行校验;
[root@jerrylinux01 bin]# cat ../log/err.log