借用解释shell告警系统

# 是否发送邮件的开关
export send=1
#只要把send 改成了1 ，就会给下面所有的监控的项目都会发送邮件，export表示所有的变量会应用在所有的子脚本里
# 若是系统处于维护状态，就需要关闭所有的服务，这时候就需要先把告警关闭，否则会一直发邮件
# 过滤ip地址；可以加定义一个hostname，这样可以知道是哪台机器
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
# 找一下当前脚本所在的目录
dir=`pwd`
# 只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
# 下面的判断目的是，保证执行脚本的时候，我们在bin目录里，不然监控脚本、邮件和日志很有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"    #求出系统负载
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502，到配置文件中遍历一遍，看看是否需要监控502
if grep -q 'to_mon_502=1' $conf_file; then
    export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
    /bin/bash  ../shares/502.sh        #找出log的路径
fi

五、告警系统配置文件
告警系统mon.conf内容，需要放在conf/目录下；

主要定义一些开关，定义一些对应的日志路径，或者说监控mysql的用户名和密码，以及IP地址port端口等

## to config the options if to monitor
## 定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0   ##cdb等于0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
## httpd   如果是1则监控，为0不监控
to_mon_httpd=0
## php 如果是1则监控，为0不监控
to_mon_php_socket=0
## http_code_502  需要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
## request_count   定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net

在此定义log目的：

要考虑监控的机器肯定不止1台；要想要让脚本通用，兼容性很强，就需要把所有需要监控的服务的日志都载入到配置文件中，改动起来方便，省得后期改动起来一个一个的对应脚本去修改，提高生产效率。
六、告警系统监控项目
根据主脚本的定义：/bin/bash …/shares/load.sh 在shares目录下创建load.sh脚本。

#! /bin/bash
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
#计算系统负载
if [ $load -gt 10 ] && [ $send -eq "1" ]  #负载超过10，且不在维护模式，$send已在主脚本中定义
then
    echo "$addr `date +%T` load is $load" >../log/load.tmp
#这条命令的目的是为了发送日志，日志输出位置已在主脚本定义
    /bin/bash ../mail/mail.sh foutt7777@163.com "$addr\_load:$load" `cat ../log/load.tmp`
fi
echo "`date +%T` load is $load"

创建告警系统脚本 502.sh

#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log  |grep ' 502 '|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     echo "$addr $d 502 count is $c_502">../log/502.tmp
     /bin/bash ../mail/mail.sh $addr\_502 $c_502  ../log/502.tmp
fi
echo "`date +%T` 502 $c_502"

脚本释义：
截取一分钟前的日志文件并判断，如果502的次数超过10次，或者不在维护模式（主脚本已经定义）就调用mail发邮件，如果没有，仅仅记录日志。
告警系统 disk.sh

磁盘使用率

#! /bin/bash
LANG=en     #定义系统语言
rm -f ../log/disk.tmp
## 用空格或者%为分隔符，筛选出来磁盘使用量的百分比。
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use`     #查看各个磁盘的已用百分比，返回数字
do
    if [ $r -gt 90 ] && [ $send -eq "1" ]       #判断百分比是否大于90，并且send=1
then
    echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]  #判断文件是否存在
then
    df -h >> ../log/disk.tmp
    /bin/bash ../mail/mail.sh $addr\_disk $r ../log/disk.tmp
    echo "`date +%T` disk useage is nook"
else
    echo "`date +%T` disk useage is ok"
fi

七、告警系统邮件引擎
mail.sh（告警收敛）

做zabbix的时候，做过mail.py的脚本，在这里，直接调用进行使用就可以。

但是告警邮件引擎核心，conf主配置文件调用到的都是mail.sh ，所以这里需要定义调用mail.py的sh脚本

mail.sh目的是做告警收敛，如果不想做告警收敛，在发现问题的时候直接告警就好，但是，可能会发生1分钟前发现问题，1分钟户问题解决，这样就会变成误报，这样会很麻烦

收敛的目的就是1分钟前发现问题，然后到10分钟后，服务还没有恢复，就会告诉管理人员10分钟了服务还未恢复

log=$1  #log作为一个变量，接收来自第一个参数的值
t_s=`date +%s`  #时间戳
t_s2=`date -d "2 hours ago" +%s` #两个小时前的时间戳
if [ ! -f /tmp/$log ]   #如果日志文件不存在
then
    echo $t_s2 > /tmp/$log  #生成日志，把两个小时前的时间戳写到日志第一行
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`  #截取时间戳，最后一行
echo $t_s>>/tmp/$log    #追加当前时间戳，写入
v=$[$t_s-$t_s2]   #时间戳的时间差（以秒为单位）详情如下
echo $v
if [ $v -gt 3600 ]  #此处的if判断是，当过了1小时如果还是没有恢复再次发告警邮件。调用mail.py（如果没有恢复，每1小时发一次）
then
    ./mail.py  $1  $2  $3   #大于一小时告警
    echo "0" > /tmp/$log.txt #生成一个新的.txt日志。用来记录告警
else
    if [ ! -f /tmp/$log.txt ] #判断有没有这个日志文件（计数器文件）
    then
        echo "0" > /tmp/$log.txt  #计数器归零
    fi
    nu=`cat /tmp/$log.txt` #查看计数器的数字
    nu2=$[$nu+1]            #每执行一次，nu2累加1，直到大于10，走下面的条件
    echo $nu2>/tmp/$log.txt #把计数器的值写入日志文件（重置）
    if [ $nu2 -gt 10 ] #大于10
    then
         ./mail.py  $1 "trouble continue 10 min $2" "$3" #代表着已经持续了10分钟了
         echo "0" > /tmp/$log.txt #重新归零开始计数
    fi
fi

脚本解析：

以秒为单位的目的：脚本是每隔一分钟执行一次的，如果触发了就告警，如果短时间搞定或者告警数量很多，告警信息就会影响你解决分析判断问题，如果成千上百台机器，那就是太多了

脚本开始报警，log 的$1是什么？ 当报警的时候执行mail.sh 紧接着给了个参数，那个参数就是所谓的$1。t_s 时间戳 t_s2 2小时之前的时间戳，定义两小时的原因就是为了执行下面的if语句，条件成立就实现了咱们的报警条件，开始报警。

发了邮件后，写一个计数器在log.txt中，else我们现在就不执行了，因为那是小于3600才执行的东西。

脚本每分钟执行一次，第二次开始，log，t_s，t_s2相对于第一次只是增加了一分钟，判断文件是否存在，因为上一次刚刚执行过，所以一定是存在的，t_s2就只是增加了60s 所以经过提取给变量v，判断不超过3600，开始执行else的内容，第一次执行的时候已经创建了log.txt 所以是有的且nu为0 nu2为1，nu2不大于10,所以就是再次循环 。

直到执行到最后一步nu2为11了，那也就是到了10分钟了，如果故障还是存在，运维再次收到一个告警邮件，故障已经持续10分钟了。这样就实现了咱们所说的“告警收敛”

如果超过10分钟再次发了邮件，然后执行计数器归0，再次开始重新循环计数。

最后告警解除了，不再调用mail.sh，也就恢复了，不在执行mail.sh了。

假如脚本在执行3分钟的时候，突然故障恢复了，脚本也就不会再次执行，然后计数器保持在2,在计数周期内如果恢复，不告警即不发邮件，但只有在一个小时以后故障才会消失，大于3600的，如果在一个小时内再次报警，还是按照之前的计数器继续执行！ 里面用python写的脚本 mail.py 。