任务列表:
20.16/20.17 shell中的函数
20.18 shell中的数组
20.19 告警系统需求分析
20.20 告警系统主脚本
20.21 告警系统配置文件
20.22 告警系统监控项目
20.23/20.24/20.25 告警系统邮件引擎
20.26 运行告警系统
20.16/20.17 shell中的函数
什么是函数
- 函数就是把一段代码整理到了一个小单元中,并给这个小单元起一个名字,当用到这段代码时直接调用这个小单元的名字即可
函数的格式
function 函数名() {
命令代码 }
- function可以省略
- 函数名必须要放在最前面
- 函数名不要和已知的关键词冲突
案例1:
#!/bin/bash
inp() {
echo $1 $2 $# $0
}
inp 1 a b
1 a 2 XXX.sh
- 这个函数会输出他的第一个参数$1,第二个参数 2 , 参 数 的 个 数 2,参数的个数 2,参数的个数#和shell脚本名称$0。
- $1写在括号里就是函数的参数,写在括号外面就表示为shell脚本的参数了。
案例2:
#!/bin/bash
sum() {
s=$[$1+$2]
echo $s
}
sum 1 2
- 加法工具,能把第一个和第二个参数相加
案例3:
#!/bin/bash
ip() {
ifconfig |grep -A1 "$1: " |tail -1 |awk '/int/ {print $2}'
}
read -p "Please input the eth name: " e
myip=`ip $e`
echo "$e address is $myip"
20.18 shell中的数组
- 包含多个元素的变量被称为“数组”
定义数组
b=1 2 3
- 每个元素用空格分开
查看数组
- 查看数组的全部内容
echo ${b[@]}
- 查看数组中的某一个元素
echo ${b[0]}
数组中的元素是以0开始的。也就是0代表第一个元素。1代表第二个,以此类推。
- 查看数组中元素的个数
echo ${#b[@]}
数组的赋值与取消赋值
- 对某一元素赋值
a[1]=100; echo ${a[@]}
- 如果下标不存在则会自动添加一个元素
a[5]=2; echo ${a[@]}
明显第六个元素是不存在的,但是可以这样赋值。为数组增加一个元素。
- 数组的删除
uset a; unset a[1]
数组分片
- 我们先为一个数组赋值
a=(`seq 1 10`)
使用seq记数器,给数组增加了十个数
- 从第一个元素开始,截取3个
echo ${a[@]:0:3}
- 倒着取值
echo ${a[@]:0-3:3}
倒着取值,这个写法是指从倒数第三位开始,向前取三位。
数组替换
- 临时替换
echo ${a[@]/3/100}
- 永久替换
a=(${a[@]/3/100})
- 用法类似vi里的查找替换
20.19 告警系统需求分析
-
需求:使用shell定制各种个性化告警工具,但需要统一化管理、规范化管理。
-
思路:指定一个脚本包,包含主程序、子程序、配置文件、邮件引擎、输出日志等。
-
主程序:作为整个脚本的入口,是整个系统的命脉。
-
配置文件:是一个控制中心,用它来开关各个子程序,指定各个相关联的日志文件。
-
子程序:这个才是真正的监控脚本,用来监控各个指标。
-
邮件引擎:是由一个python程序来实现,它可以定义发邮件的服务器、发邮件人以及发件人密码
-
输出日志:整个监控系统要有日志输出。
-
要求:我们的机器角色多种多样,但是所有机器上都要部署同样的监控系统,也就说所有机器不管什么角色,整个程序框架都是一致的,不同的地方在于根据不同的角色,定制不同的配置文件。
- bin下是主程序
- conf下是配置文件
- shares下是各个监控脚本
- mail下是邮件引擎
- log下是日志。
20.20 告警系统主脚本
1,跟据需求生成目录
- 建立主目录/usr/local/sbin/mon
- mon下分别建立:
bin主程序
conf配置文件
shares监控脚本
mail邮件引擎
log日志文件
这几个目录 - 管理脚本目录,以方便日后查询
2,告警主脚本。
vim /usr/local/sbin/mon/bin/main.sh
#!/bin/bash
#Written by aming.//作者署名
# 是否发送邮件的开关,下边这行的值只要为1就会发送邮件,这里与监控无关,只是告警开关。
export send=1
# 过滤ip地址
export addr=`ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
dir=`pwd`
# 只需要最后一级目录名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
# 下面的判断目的是,保证执行脚本的时候,我们在bin目录里,不然监控脚本、邮件和日志很有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ];
then
conf_file="../conf/mon.conf"
else
echo "you shoud cd bin dir"
exit
fi
exec 1>>../log/mon.log 2>>../log/err.log
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先检查配置文件中是否需要监控502
if grep -q 'to_mon_502=1' $conf_file; then
export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
/bin/bash../shares/502.sh
fi
20.21 告警系统配置文件
- 文件路径:
cd /usr/local/sbin/mon/conf/mon.conf
- 脚本内容
## to config the options if to monitor
## 定义mysql的服务器地址、端口以及user、password
to_mon_cdb=0
##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
## httpd 如果是1则监控,为0不监控
to_mon_httpd=0
## php 如果是1则监控,为0不监控
to_mon_php_socket=0
## http_code_502 需要定义访问日志的路径
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
## request_count (请求数)定义日志路径以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net
- 注意提升配置文件的通用性。也就是在任何情况下都能生效的可能性。
20.22 告警系统监控项目
- 监控项目文件目录
/usr/local/sbin/mon/shares/
1,系统负载
#! /bin/bash
##Writen by aming##
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`
if [ $load -gt 10 ] && [ $send -eq "1" ]
then
echo "$addr `date +%T` load is $load" >../log/load.tmp
/bin/bash ../mail/mail.sh aming_test@163.com "$addr\_load:$load" `cat ../log/load.tmp`
fi
echo "`date +%T` load is $load"
- 当负载大于十并且主角本的send值为1时发送邮件。(send就相当于发送邮件的主开关)
- 使用IP地址做为本机特征。$addr
2,502告警
#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:$log|grep ' 502 '|wc -l`
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
echo "$addr $d 502 count is $c_502">../log/502.tmp
/bin/bash ../mail/mail.sh $addr\_502 $c_502 ../log/502.tmp
fi
echo "`date +%T` 502 $c_502"
3,磁盘
#! /bin/bash
##Writen by aming##
rm -f ../log/disk.tmp
LANG=en
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use`
do
if [ $r -gt 90 ] && [ $send -eq "1" ]
then
echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]
then
df -h >> ../log/disk.tmp
/bin/bash ../mail/mail.sh $addr\_disk $r ../log/disk.tmp
echo "`date +%T` disk useage is error"
else
echo "`date +%T` disk useage is ok"
fi
- 通过查询df的负载情况来监控磁盘使用率。
- 当负载高于90并且主开关打开的情况发送邮件。
- awk可以使用多个分割符。
awk -F '[:#]'
这样,在一串字符中:号或#号都是分割符。
20.23/20.24/20.25 告警系统邮件引擎
1,发送邮件的操作需要一个python的脚本。
- 下载地址
https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D22Z/mail.py
- 脚本内容
#!/usr/bin/env python
#-*- coding: UTF-8 -*-
import os,sys
reload(sys)
sys.setdefaultencoding('utf8')
import getopt
import smtplib
from email.MIMEText import MIMEText
from email.MIMEMultipart import MIMEMultipart
from subprocess import *
def sendqqmail(username,password,mailfrom,mailto,subject,content):
gserver = 'smtp.qq.com'
gport = 25
try:
# msg = MIMEText(unicode(content).encode('utf-8')) //如果发送的邮件有乱码,可以尝试把这行改成如下:
msg = MIMEText(content,'plan','utf-8')
msg['from'] = mailfrom
msg['to'] = mailto
msg['Reply-To'] = mailfrom
msg['Subject'] = subject
smtp = smtplib.SMTP(gserver, gport)
smtp.set_debuglevel(0)
smtp.ehlo()
smtp.login(username,password)
smtp.sendmail(mailfrom, mailto, msg.as_string())
smtp.close()
except Exception,err:
print "Send mail failed. Error: %s" % err
def main():
to=sys.argv[1]
subject=sys.argv[2]
content=sys.argv[3]
##定义QQ邮箱的账号和密码,你需要修改成你自己的账号和密码(请不要把真实的用户名和密码放到网上公开,否则你会死的很惨)
sendqqmail('1234567@qq.com','aaaaaaaaaa','1234567@qq.com',to,subject,content)
if __name__ == "__main__":
main()
#####脚本使用说明######
#1. 首先定义好脚本中的邮箱账号和密码
#2. 脚本执行命令为:python mail.py 目标邮箱 "邮件主题" "邮件内容"
- gserver定义邮件发送服务器
- sendqqmail定义用户名和密码。收件人邮箱。
2,邮件发送引擎
- 路径:
/usr/local/sbin/mon/mail/
- 邮件内容,发送脚本和py脚本都放在这个目录里。
- 脚本内容
#! /bin/bash
log=$1 \\监控子项激活告警脚本时的参数。
t_s=`date +%s` \\定义时间戳
t_s2=`date -d "2 hours ago" +%s` \\两小时前的时间戳
if [ ! -f /tmp/$log ] \\如果日志不存在
then
echo $t_s2 > /tmp/$log \\生成日志,内容是两小时前的时间戳
fi
\\上述过程是为了保证第一次运行脚本时,t_s2里存放的是两小时前的时间戳
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`\\提取日志里的时间戳
echo $t_s>>/tmp/$log 当前时间戳记录到日志里(这个脚本是一分钟执行一次,所以第二次运行时这里会记录的是前一分钟前的时间戳)
v=$[$t_s-$t_s2] \\比较日志里的时间戳和当前时间戳
echo $v
if [ $v -gt 3600 ] \\这时取值一小时,是因为第一次激活邮件脚本一定会发送邮件。因为,第一次激活日志里存放的是两小时前的时间戳。
then
./mail.py $1 $2 $3
echo "0" > /tmp/$log.txt //激告警脚本后,会给log.txt置零,开始计数。
else
if [ ! -f /tmp/$log.txt ]
then
echo "0" > /tmp/$log.txt
fi
nu=`cat /tmp/$log.txt`
nu2=$[$nu+1]
echo $nu2>/tmp/$log.txt
if [ $nu2 -gt 10 ]
then
./mail.py $1 "trouble continue 10 min $2" "$3"
echo "0" > /tmp/$log.txt
fi
fi
- mail.sh的作用是告警收敛
- 激活告警脚本后,会以子监控项的参数来查找告警记时器。
- 第一次激活时,计时器不存在,所以被写入两小时前的时间戳。
- 执行到
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`
一定会触发告警脚本。因为这里面是两小时前的时间戳
- 提取完上次的时间戳后,把当前时间戳写入t_s2中。
- 下次激活告警邮件后会先判断是否过去了一小时。
- 如果超过一小时,再次发送邮件。
- 以上为第一次告警。
- 发送告警邮件后,开时计数,每次一分钟。一小时内超过十次邮件告警请求。脚本将再次发送告警邮件。
- 由于主脚本是每分钟运行一次。所以,出现问题后,邮件脚本每分钟都会收到告警请求。
- if [ $v -gt 3600 ]的目的是故障之间超过一小时才会发送邮件。如果故障没有解除就每十分钟发送一次。
- if [ $nu2 -gt 10 ]一小时内的十次故障告警才会发送邮件。
20.26 运行告警系统
- 使用
crontab -e
命令。在其中写入以下内容。
* * * * * cd /usr/local/sbin/mon/bin ;bash man.sh
- 也就是每分执行一次监控脚本。
- 达到监控指标后,会生成日志并触发邮件告警。
直播笔记
作业
1,编写shell脚本,计算1-100的和;
2,编写shell脚本,要求输入一个数字,然后计算出从1到输入数字的和,要求,如果输入的数字小于1,则重新输入,直到输入正确的数字为止;
3,编写shell脚本,把/root/目录下的所有目录(只需要一级)拷贝到/tmp/目录下;
4,编写shell脚本,批量建立用户user_00, user_01, … user_100并且所有用户同属于users组;
5,编写shell脚本,截取文件test.log中包含关键词 ‘abc’ 的行中的第一列(假设分隔符为 ”:” ),然后把截取的数字排序(假设第一列为数字),然后打印出重复次数超过10次的列;
6,编写shell脚本,判断输入的IP是否正确(IP的规则是,n1.n2.n3.n4,其中1<n1<255, 0<n2<255, 0<n3<255, 0<n4<255)
1,编写shell脚本,计算1-100的和;
#!/bin/bash
sum=0
for i in `seq 1 100`
do
sum=$[$sum+$i]
echo $i
done
echo $sum
2,编写shell脚本,要求输入一个数字,然后计算出从1到输入数字的和,要求,如果输入的数字小于1,则重新输入,直到输入正确的数字为止;
#!/bin/bash
sum=0
while :
do
read -p "Please input a number: " n
if [ -z "$n" ]
then
echo "you need input sth."
continue
fi
n1=`echo $n|sed 's/[0-9]//g'`
if [ -n "$n1" ]
then
echo "you just only input numbers."
continue
fi
if [ $n -lt 1 ]
then
echo "the number must be large than 1"
continue
fi
break
done
for i in `seq 1 $n`
do
sum=$[$sum+$i]
echo $i
done
echo $sum
3,编写shell脚本,把/root/目录下的所有目录(只需要一级)拷贝到/tmp/目录下;
cd /root/
for a in `ls /root/`
do
if [ -d $a ]
then
cp -r $a /tmp/test/
fi
done
4,编写shell脚本,批量建立用户user_00, user_01, … user_100并且所有用户同属于users组;
#!/bin/bash
for i in `seq -w 00 99`
do
useradd -g users user_$i
done
useradd -g users user_100
6,编写shell脚本,判断输入的IP是否正确(IP的规则是,n1.n2.n3.n4,其中1<n1<255, 0<n2<255, 0<n3<255, 0<n4<255)
#!/bin/bash
sum=0
while :
do
read -p "Please input a number like XXX.XXX.XXX.XXX: " n
n1=`echo "$n" |awk -F '.' '{print $1}'`
n2=`echo "$n" |awk -F '.' '{print $2}'`
n3=`echo "$n" |awk -F '.' '{print $3}'`
n4=`echo "$n" |awk -F '.' '{print $4}'`
if [ $n1 -lt 1 ] || [ $n1 -gt 255 ]
then
echo "the number.1 is error"
continue
fi
if [ $n2 -lt 0 ] || [ $n2 -gt 255 ]
then
echo "the number.2 is error"
continue
fi
if [ $n3 -lt 0 ] || [ $n3 -gt 255 ]
then
echo "the number.3 is error"
continue
fi
if [ $n4 -lt 0 ] || [ $n4 -gt 255 ]
then
echo "the number.3 is error"
continue
fi
echo "good"
break
done