# 是否发送邮件的开关
export send=1
#只要把send 改成了1 ,就会给下面所有的监控的项目都会发送邮件,export表示所有的变量会应用在所有的子脚本里
# 若是系统处于维护状态,就需要关闭所有的服务,这时候就需要先把告警关闭,否则会一直发邮件
# 过滤ip地址;可以加定义一个hostname,这样可以知道是哪台机器
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
# 找一下当前脚本所在的目录
dir=`pwd`
# 只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
# 下面的判断目的是,保证执行脚本的时候,我们在bin目录里,不然监控脚本、邮件和日志很有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then
conf_file="../conf/mon.conf"
else
echo "you shoud cd bin dir"
exit
fi
exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average" #求出系统负载
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502,到配置文件中遍历一遍,看看是否需要监控502
if grep -q 'to_mon_502=1' $conf_file; then
export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
/bin/bash ../shares/502.sh #找出log的路径
fi
五、告警系统配置文件
告警系统mon.conf内容,需要放在conf/目录下;
主要定义一些开关,定义一些对应的日志路径,或者说监控mysql的用户名和密码,以及IP地址port端口等
## to config the options if to monitor
## 定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0 ##cdb等于0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
## httpd 如果是1则监控,为0不监控
to_mon_httpd=0
## php 如果是1则监控,为0不监控
to_mon_php_socket=0
## http_code_502 需要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
## request_count 定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net
在此定义log目的:
要考虑监控的机器肯定不止1台;要想要让脚本通用,兼容性很强,就需要把所有需要监控的服务的日志都载入到配置文件中,改动起来方便,省得后期改动起来一个一个的对应脚本去修改,提高生产效率。
六、告警系统监控项目
根据主脚本的定义:/bin/bash …/shares/load.sh 在shares目录下创建load.sh脚本。
#! /bin/bash
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
#计算系统负载
if [ $load -gt 10 ] && [ $send -eq "1" ] #负载超过10,且不在维护模式,$send已在主脚本中定义
then
echo "$addr `date +%T` load is $load" >../log/load.tmp
#这条命令的目的是为了发送日志,日志输出位置已在主脚本定义
/bin/bash ../mail/mail.sh foutt7777@163.com "$addr\_load:$load" `cat ../log/load.tmp`
fi
echo "`date +%T` load is $load"
创建告警系统脚本 502.sh
#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d: $log |grep ' 502 '|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
echo "$addr $d 502 count is $c_502">../log/502.tmp
/bin/bash ../mail/mail.sh $addr\_502 $c_502 ../log/502.tmp
fi
echo "`date +%T` 502 $c_502"
脚本释义:
截取一分钟前的日志文件并判断,如果502的次数超过10次,或者不在维护模式(主脚本已经定义)就调用mail发邮件,如果没有,仅仅记录日志。
告警系统 disk.sh
磁盘使用率
#! /bin/bash
LANG=en #定义系统语言
rm -f ../log/disk.tmp
## 用空格或者%为分隔符,筛选出来磁盘使用量的百分比。
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use` #查看各个磁盘的已用百分比,返回数字
do
if [ $r -gt 90 ] && [ $send -eq "1" ] #判断百分比是否大于90,并且send=1
then
echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ] #判断文件是否存在
then
df -h >> ../log/disk.tmp
/bin/bash ../mail/mail.sh $addr\_disk $r ../log/disk.tmp
echo "`date +%T` disk useage is nook"
else
echo "`date +%T` disk useage is ok"
fi
七、告警系统邮件引擎
mail.sh(告警收敛)
做zabbix的时候,做过mail.py的脚本,在这里,直接调用进行使用就可以。
但是告警邮件引擎核心,conf主配置文件调用到的都是mail.sh ,所以这里需要定义调用mail.py的sh脚本
mail.sh目的是做告警收敛,如果不想做告警收敛,在发现问题的时候直接告警就好,但是,可能会发生1分钟前发现问题,1分钟户问题解决,这样就会变成误报,这样会很麻烦
收敛的目的就是1分钟前发现问题,然后到10分钟后,服务还没有恢复,就会告诉管理人员10分钟了服务还未恢复
log=$1 #log作为一个变量,接收来自第一个参数的值
t_s=`date +%s` #时间戳
t_s2=`date -d "2 hours ago" +%s` #两个小时前的时间戳
if [ ! -f /tmp/$log ] #如果日志文件不存在
then
echo $t_s2 > /tmp/$log #生成日志,把两个小时前的时间戳写到日志第一行
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'` #截取时间戳,最后一行
echo $t_s>>/tmp/$log #追加当前时间戳,写入
v=$[$t_s-$t_s2] #时间戳的时间差(以秒为单位)详情如下
echo $v
if [ $v -gt 3600 ] #此处的if判断是,当过了1小时如果还是没有恢复再次发告警邮件。调用mail.py(如果没有恢复,每1小时发一次)
then
./mail.py $1 $2 $3 #大于一小时告警
echo "0" > /tmp/$log.txt #生成一个新的.txt日志。用来记录告警
else
if [ ! -f /tmp/$log.txt ] #判断有没有这个日志文件(计数器文件)
then
echo "0" > /tmp/$log.txt #计数器归零
fi
nu=`cat /tmp/$log.txt` #查看计数器的数字
nu2=$[$nu+1] #每执行一次,nu2累加1,直到大于10,走下面的条件
echo $nu2>/tmp/$log.txt #把计数器的值写入日志文件(重置)
if [ $nu2 -gt 10 ] #大于10
then
./mail.py $1 "trouble continue 10 min $2" "$3" #代表着已经持续了10分钟了
echo "0" > /tmp/$log.txt #重新归零开始计数
fi
fi
脚本解析:
以秒为单位的目的:脚本是每隔一分钟执行一次的,如果触发了就告警,如果短时间搞定或者告警数量很多,告警信息就会影响你解决分析判断问题,如果成千上百台机器,那就是太多了
脚本开始报警,log 的$1是什么? 当报警的时候执行mail.sh 紧接着给了个参数,那个参数就是所谓的$1。t_s 时间戳 t_s2 2小时之前的时间戳,定义两小时的原因就是为了执行下面的if语句,条件成立就实现了咱们的报警条件,开始报警。
发了邮件后,写一个计数器在log.txt中,else我们现在就不执行了,因为那是小于3600才执行的东西。
脚本每分钟执行一次,第二次开始,log,t_s,t_s2相对于第一次只是增加了一分钟,判断文件是否存在,因为上一次刚刚执行过,所以一定是存在的,t_s2就只是增加了60s 所以经过提取给变量v,判断不超过3600,开始执行else的内容,第一次执行的时候已经创建了log.txt 所以是有的且nu为0 nu2为1,nu2不大于10,所以就是再次循环 。
直到执行到最后一步nu2为11了,那也就是到了10分钟了,如果故障还是存在,运维再次收到一个告警邮件,故障已经持续10分钟了。这样就实现了咱们所说的“告警收敛”
如果超过10分钟再次发了邮件,然后执行计数器归0,再次开始重新循环计数。
最后告警解除了,不再调用mail.sh,也就恢复了,不在执行mail.sh了。
假如脚本在执行3分钟的时候,突然故障恢复了,脚本也就不会再次执行,然后计数器保持在2,在计数周期内如果恢复,不告警即不发邮件,但只有在一个小时以后故障才会消失,大于3600的,如果在一个小时内再次报警,还是按照之前的计数器继续执行! 里面用python写的脚本 mail.py 。