【Linux】Shell脚本编程

一、Shell概述

• Shell是Linux系统的用户界面，它提供用户与内核的一种交互方式。它接收用户输入的命令，并把它送入内核去执行，是一个命令解释器
• Shell 既是一种命令语言，又是一种程序设计语言（Shell脚本）。作为命令语言，它交互式解释和执行用户输入的命令或者自动地解释和执行预先设定好的一连串的命令；作为程序设计语言，它定义了各种变量和参数，并提供了许多在高级语言中才具有的控制结构，包括循环和分支。
• Shell脚本就是将命令写入文本中，文本可以被执行。
  脚本：本质是一个文件，文件里面存放的是特定格式的指令，系统可以使用脚本解析器翻译或解析指令并执行（它不需要编译）

（1）Linux 提供的 Shell 解析器有

[huahua@hadoop100 ~]$ cat /etc/shells
/bin/sh
/bin/bash
/usr/bin/sh
/usr/bin/bash
/bin/tcsh
/bin/csh

（2）bash 和 sh

• sh(Bourne Shell)：是UNIX最初使用的 shell，而且在每种 UNIX 上都可以使用。
• bash（Bourne Again Shell）：是一种命令行解释器和脚本语言，常用于Unix和Linux系统。它是Bourne shell的改进版本，也是最常用的shell之一。Bash具有执行命令、处理文本和实现脚本编程等功能。用户可以运行系统命令、执行脚本文件或调用其他可执行文件。脚本文件通常以.sh为扩展名。Bash支持使用通配符进行文件搜索和匹配，还支持使用正则表达式进行更复杂的模式匹配

# bash和 sh 的关系
ll | grep bash
# Centos 默认的解析器是 bash
echo $SHELL

二、Shell脚本入门

1、脚本格式
脚本以#!/bin/bash 开头（指定解析器）

#!：告诉系统其后路径所指定的程序即是解释此脚本文件的 Shell 程序。

2、创建一个 Shell 脚本，输出 helloworld
touch helloworld.sh新建一个文件helloworld.sh，扩展名为 sh（sh代表shell），扩展名并不影响脚本执行，vim helloworld.sh打开此文件输入如下内容

#!/bin/bash
echo "helloworld
# echo 命令用于向窗口输出文本。

3、脚本的常用执行方式
（1）采用 bash 或 sh + 脚本的相对路径或绝对路径（不用赋予脚本+x权限）

# sh+脚本的相对路径
sh ./helloworld.sh
# sh+脚本的绝对路径
sh /home/shells/helloworld.sh
# bash+脚本的相对路径
bash ./helloworld.sh
# bash+脚本的绝对路径
bash /home/shells/helloworld.sh

这种执行方法，本质是 bash 解析器帮你执行脚本，所以脚本本身不需要执权限

（2）采用输入脚本的绝对路径或相对路径执行脚本（必须具有可执行权限+x）

# 赋予helloworld.sh 脚本的+x权限
chmod +x helloworld.sh
# 相对路径
./helloworld.sh
# 相对路径
./helloworld.sh

这种执行方法，本质是脚本需要自己执行，所以需要执行权限。

（3）在脚本的路径前加上 “.” 或者 source
cat test.sh编写以下脚本

#!/bin/bash
A=5
echo $A

分别用 bash，sh，./ 和 . 的方式来执行

# bash
bash test.sh
# sh
sh test.sh
# ./
./test.sh
# .
. test.sh

• 前两种方式都是在当前 shell 中打开一个子 shell 来执行脚本内容，当脚本内容结束，则子 shell 关闭，回到父 shell 中。
• 第三种，也就是使用在脚本路径前加“.”或者 source 的方式，可以使脚本内容在当前shell 里执行，而无需打开子 shell！这也是为什么我们每次要修改完/etc/profile 文件以后，需要 source 一下的原因。
• 开子 shell 与不开子shell 的区别就在于，环境变量的继承关系，如在子 shell 中设置的当前变量，父 shell 是不可见的。

三、变量

1. 系统预定义变量

常用系统变量：$HOME、$PWD、$SHELL、$USER 等
查看系统变量的值

echo $HOME

显示当前 Shell 中所有变量

set

2. 自定义变量

（1）基本语法
定义变量：变量名=变量值（注意，=号前后不能有空格）
撤销变量：unset 变量名
声明静态变量：readonly 变量（注意：不能 unset）
（2）变量定义规则

• 变量名称可以由字母、数字和下划线组成，但是不能以数字开头，环境变量名建议大写。
• 等号两侧不能有空格。
• 在 bash 中，变量默认类型都是字符串类型，无法直接进行数值运算。
• 变量的值如果有空格，需要使用双引号或单引号括起来。

（3）变量类型：
运行shell时，会同时存在三种变量：

• 局部变量： 局部变量在脚本或命令中定义，仅在当前shell实例中有效，其他shell启动的程序不能访问局部变量。
• 环境变量： 所有的程序，包括shell启动的程序，都能访问环境变量，有些程序需要环境变量来保证其正常运行。必要的时候shell脚本也可以定义环境变量。
• shell变量： shell变量是由shell程序设置的特殊变量。shell变量中有一部分是环境变量，有一部分是局部变量，这些变量保证了shell的正常运行。

只读变量：使用 readonly 命令可以将变量定义为只读变量，只读变量的值不能被改变。
删除变量：使用 unset 命令可以删除变量。变量被删除后不能再次使用。unset 命令不能删除只读变量。

（4）案例实操

# 定义变量 A
[huahua@hadoop100 shells]$ A=5
[huahua@hadoop100 shells]$ echo $A
5
# 给变量 A 重新赋值
[huahua@hadoop100 shells]$ A=8
[huahua@hadoop100 shells]$ echo $A
8
# 撤销变量 A
[huahua@hadoop100 shells]$ unset A
[huahua@hadoop100 shells]$ echo $A
# 声明静态的变量 B=2，不能 unset
[huahua@hadoop100 shells]$ readonly B=2
[huahua@hadoop100 shells]$ echo $B
2
[huahua@hadoop100 shells]$ B=9
-bash: B: readonly variable 
# 在 bash 中，变量默认类型都是字符串类型，无法直接进行数值运算
[huahua@hadoop100 shells]$ C=1+2
[huahua@hadoop100 shells]$ echo $C
1+2
# 变量的值如果有空格，需要使用双引号或单引号括起来
[huahua@hadoop100 shells]$ D=I love you
-bash: world: command not found
[huahua@hadoop100 shells]$ D="I love you"
[huahua@hadoop100 shells]$ echo $D
I love you
# 可把变量提升为全局环境变量，可供其他 Shell 程序使用
# 在 helloworld.sh 文件中增加 echo $B
[huahua@hadoop100 shells]$ vim helloworld.sh
在 helloworld.sh 文件中增加 echo $
#!/bin/bash
echo "helloworld"
echo $B
[huahua@hadoop100 shells]$ ./helloworld.sh
Helloworld
# 发现并没有打印输出变量 B 的值
# 使用 export 变量名
[huahua@hadoop100 shells]$ export B
[huahua@hadoop100 shells]$ ./helloworld.sh

3. 特殊变量

3.1 $n

基本语法：$n （n 为数字，$0 代表该脚本名称，$1-$9 代表第一到第九个参数，十以上的参数，十以上的参数需要用大括号包含，如${10}）
touch parameter创建文件，vim parameter.sh编写脚本

#!/bin/bash
echo '=============$n============='
echo script name: $0
echo 1st parameter: $1
echo 2nd parameter: $2

# 执行脚本
[huahua@hadoop100 shells]$ chmod +x parameter.sh
[huahua@hadoop100 shells]$ ./parameter.sh a b

# 输出
=============$n=============
script name: /parameter.sh
1st parameter: a
2nd parameter: b

3.2 $#

基本语法：$# （获取所有输入参数个数，常用于循环,判断参数的个数是否正确以及加强脚本的健壮性）。
vim parameter.sh编写脚本

#!/bin/bash
echo '=============$n============='
echo script name: $0
echo 1st parameter: $1
echo 2nd parameter: $2
echo '=============$#============='
echo parameter number: $#

# 执行脚本
[huahua@hadoop100 shells]$ chmod +x parameter.sh
[huahua@hadoop100 shells]$ ./parameter.sh a b

# 输出
=============$n=============
script name: /parameter.sh
1st parameter: a
2nd parameter: b
=============$#=============
parameter number: 2

3.3 $*、$@

基本语法
$* （这个变量代表命令行中所有的参数，$*把所有的参数看成一个整体）
$@ （这个变量也代表命令行中所有的参数，不过$@把每个参数区分对待）
vim parameter.sh编写脚本

#!/bin/bash
echo '=============$n============='
echo script name: $0
echo 1st parameter: $1
echo 2nd parameter: $2
echo '=============$#============='
echo parameter number: $#
echo '=============$*============='
echo $*
echo '=============$@============='
echo $@

# 执行脚本
[huahua@hadoop100 shells]$ chmod +x parameter.sh
[huahua@hadoop100 shells]$ ./parameter.sh a b

# 输出
=============$n=============
script name: /parameter.sh
1st parameter: a
2nd parameter: b
=============$#=============
parameter number: 2
=============$#=============
a b
=============$#=============
a b

$*和$@区别

• $*和$@都表示传递给函数或脚本的所有参数，不被双引号“”包含时，都以$1 $2 …$n的形式输出所有参数。
• 当它们被双引号“”包含时，$*会将所有的参数作为一个整体，以“$1 $2 …$n”的形式输 出所有参数；$@会将各个参数分开，以“$1”“$2”…“$n”的形式输出所有参数。

3.4 $?

基本语法：$？（最后一次执行的命令的返回状态。如果这个变量的值为 0，证明上一个命令正确执行；如果这个变量的值为非 0（具体是哪个数，由命令自己来决定），则证明上一个命令执行不正确了。）

# 判断 helloworld.sh 脚本是否正确执行
[huahua@hadoop100 shells]$ ./helloworld.sh
hello world
[huahua@hadoop100 shells]$ echo $?
0

四、运算符

expr 是一款表达式计算工具，使用它能完成表达式的求值操作。
“\$((运算式))” 或 “$[运算式]”

# 加
 expr 1 + 2
# 减
expr 5 - 2
# 乘
expr 5 \* 2
expr $[5 * 2]
expr $((5 *2))
# 除
expr 4 / 2
# 赋值
a=$(expr 5 \* 2)
a=`expr 5 \* 2`
a=”expr 5 \* 2”
a=$[(2+3)*4]

表达式和运算符之间要有空格

五、条件判断

基本语法
test condition

• [ condition ]（ condition 前后要有空格）
• 条件非空即为 true，[ abc ]返回 true，[ ]返回false。

常用判断条件
（1）两个整数之间比较

• -eq 等于（equal）
• -ne 不等于（not equal）
• -lt 小于（less than）
• -le 小于等于（less equal）
• -gt 大于（greater than）
• -ge 大于等于（greater equal）

注：如果是字符串之间的比较 ，用等号“=”判断相等；用“!=”判断不等。

（2）按照文件权限进行判断

• -r 有读的权限（read）
• -w 有写的权限（write）
• -x 有执行的权限（execute）

（3）按照文件类型进行判断

• -e 文件存在（existence）
• -f 文件存在并且是一个常规的文件（file）
• -d 文件存在并且是一个目录（directory）

# 23 是否大于等于 22
[huahua@hadoop100 shells]$ [ 23 -ge 22 ]
[huahua@hadoop100 shells]$ echo $?
# helloworld.sh 是否具有写权限
[huahua@hadoop100 shells]$ [ -w helloworld.sh]
# 多条件判断（&& 表示前一条命令执行成功时，才执行后一条命令，|| 表示上一条命令执行失败后，才执行下一条命令）
[huahua@hadoop100 ~]$ [ huahua ] && echo OK || echo notOK
OK
[huahua@hadoop100 shells]$ [ ] && echo OK || echo notOK
notOK

六、流程控制

1. if判断

（1）基本语法

• 单分支

if [ 条件判断式 ];then
	程序
fi

if [ 条件判断式 ]
then
	程序
fi

• 多分支

if [ 条件判断式 ]
then
	程序
elif [ 条件判断式 ]
then
	程序
else
	程序
fi

注意：

• [ 条件判断式 ]，中括号和条件判断式之间必须有空格。
• if 后要有空格。

（2）案例实操

a=10
b=20
if [ $a == $b ]
then
echo "a 等于 b"
elif [ $a -gt $b ]
then
   	echo "a 大于 b"
elif [ $a -lt $b ]
then
   	echo "a 小于 b"
else
   	echo "没有符合的条件"
fi

# 或
a=10
b=20
if (( $a == $b ))
then
   	echo "a 等于 b"
elif (( $a > $b ))
then
   	echo "a 大于 b"
elif (( $a < $b ))
then
   	echo "a 小于 b"
else
   	echo "没有符合的条件"
fi

2. case语句

（1）基本语法

case $变量名 in
"值 1"）
	如果变量的值等于值 1，则执行程序 1
	;;
"值 2"）
	如果变量的值等于值 2，则执行程序 2
	;;
	…省略其他分支…
*）
如果变量的值都不是以上的值，则执行此程序
;;
esac

注意：

• case 行尾必须为单词“in”，每一个模式匹配必须以右括号“）”结束。
• 双分号“;;”表示命令序列结束，相当于 java 中的 break。
• 最后的“*）”表示默认模式，相当于 java 中的 default。

（2）案例实操

echo '输入 1 到 3 之间的数字:'
echo '你输入的数字为:'
read num
case $num in
1)  
	echo '你选择了 1'
    ;;
2)  
	echo '你选择了 2'
    ;;
3)  
	echo '你选择了 3'
    ;;
*)  
	echo '你没有输入 1 到 3 之间的数字'
    ;;
esac

3. for循环

（1）基本语法

for (( 初始值;循环控制条件;变量变化 ))
do
	程序
done

for 变量 in 值 1 值 2 值 3…
do
	程序
done

（2）案例实操

sum=0
for((i=0;i<=100;i++))
do
	sum=$[$sum+$i]
done
echo $sum
# 输出
5050

for loop in 1 2 3 4 5
do
    echo "The value is: $loop"
done
# 输出
The value is: 1
The value is: 2
The value is: 3
The value is: 4
The value is: 5

4. while循环

（1）基本语法

while [ 条件判断式 ]
do
	程序
done

（2）案例实操

sum=0
i=1
while [ $i -le 100 ]
do
	sum=$[$sum+$i]
	i=$[$i+1]
done
echo $sum
# 输出
5050

七、read读取控制台输入

（1）基本语法
read (选项) (参数)

选项	说明
-p	指定读取值时的提示符
-t	指定读取值时等待的时间（秒）如果-t 不加表示一直等待
-s	隐藏输入内容
-n	输入字符长度限制(达到6位，自动结束)

参数变量：指定读取值的变量名

（2）案例实操
提示 7 秒内，读取控制台输入的名称

#!/bin/bash
read -t 7 -p "Enter your name in 7 seconds :" NN
echo $NN

八、函数

1. 系统函数

1.1 basename

（1）基本语法
basename [string / pathname] [suffix]

• basename 命令会删掉所有的前缀包括最后一个（‘/’）字符，然后将字符串显示出来。
• basename 可以理解为取路径里的文件名称。
• suffix 为后缀，如果 suffix 被指定了，basename 会将 pathname 或 string。

（2）案例实操

# 截取该/home/huahua/banzhang.txt 路径的文件名称。
[huahua@hadoop100 shells]$ basename /home/huahua/banzhang.txt
banzhang.txt
[huahua@hadoop100 shells]$ basename /home/huahua/banzhang.txt .txt
banzhang

1.2 dirname

（1）基本语法
dirname 文件绝对路径 （从给定的包含绝对路径的文件名中去除文件名（非目录的部分），然后返回剩下的路径（目录的部分））

dirname 可以理解为取文件路径的绝对路径名称

（2）案例实操

# 获取 banzhang.txt 文件的路径。
[huahua@hadoop100 ~]$ dirname /home/huahua/banzhang.txt
/home/atguigu

2. 自定义函数

（1）基本语法

[ function ] funname[()]
{
	action;
	[return int;]
}

经验技巧

• 必须在调用函数地方之前，先声明函数，shell 脚本是逐行运行。不会像其它语言一样先编译。
• 函数返回值，只能通过$?系统变量获得，可以显示加：return 返回，如果不加，将以最后一条命令运行结果，作为返回值。return 后跟数值 n(0-255)。

（2）案例实操
计算两个输入参数的和

#!/bin/bash
function sum()
{
	s=0
	s=$[$1+$2]
	echo "$s"
}
read -p "Please input the number1: " n1;
read -p "Please input the number2: " n2;
sum $n1 $n2

九、正则表达式

正则表达式使用单个字符串来描述、匹配一系列符合某个语法规则的字符串。在很多文本编辑器里，正则表达式通常被用来检索、替换那些符合某个模式的文本。在 Linux 中，grep，sed，awk 等文本处理工具都支持通过正则表达式进行模式匹配。

常用的特殊字符
^ 匹配一行的开头

cat /etc/passwd | grep ^a 
# 会匹配出所有以 a 开头的行

$ 匹配一行的结束

cat /etc/passwd | grep t$
# 会匹配出所有以 t 结尾的行

. 匹配一个任意的字符

cat /etc/passwd | grep r..t
# 会匹配包含 rabt,rbbt,rxdt,huahua 等的所有行

* 不单独使用，他和上一个字符连用，表示匹配上一个字符 0 次或多次

cat /etc/passwd | grep ro*t
# 会匹配 rt, rot, huahua, rooot, roooot 等所有行

字符区间（中括号）：[ ]

符号	说明
[ ]	表示匹配某个范围内的一个字符，例如
[6,8]	匹配 6 或者 8
[0-9]	匹配一个 0-9 的数字
[0-9]*	匹配任意长度的数字字符串
[a-z]	匹配一个 a-z 之间的字符
[a-z]*	匹配任意长度的字母字符串
[a-c, e-f]	匹配 a-c 或者 e-f 之间的任意字符

特殊字符：\

\ 表示转义，并不会单独使用。由于所有特殊字符都有其特定匹配模式，当我们想匹配某一特殊字符本身时（例如，我想找出所有包含 '$'的行），就会碰到困难。此时我们就要将转义字符和特殊字符连用，来表示特殊字符本身。

# 匹配所有包含 a$b 的行
grep ‘a\$b’

注意需要使用单引号将表达式引起来。

十、文本处理工具

1. cut

cut 的工作就是“剪”，具体的说就是在文件中负责剪切数据用的。cut 命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段输出。

（1）基本用法
cut [选项参数] filename (默认分隔符是制表符)

（2）说明

选项参数	功能
-f	列号，提取第几列
-d	分隔符，按照指定分隔符分割列，默认是制表符“\t”
-c	按字符进行切割 后加加 n 表示取第几列 比如 -c 1

（3）案例实操
touch cut.txt创建cut.txt文件，vim cut.txt 进行数据准备

dong shen
guan zhen
wo wo
lai lai
le le

# 切割 cut.txt 第一列
cut -d " " -f 1 cut.t
# 切割 cut.txt
cut -d " " -f 2,3 cut.txt
# cut.txt 文件中切割出 guan
cat cut.txt |grep guan | cut -d " " -f 1 

2. awk

一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

（1）基本用法
awk [选项参数] ‘/pattern1/{action1} /pattern2/{action2}...’filename

pattern：表示 awk 在数据中查找的内容，就是匹配模式
action：在找到匹配内容时所执行的一系列命令

（2）说明

选项参数	功能
-F	指定输入文件分隔符
-v	赋值一个用户定义变量

（3）案例实操

# 搜索 passwd 文件以 huahua 关键字开头的所有行，并输出该行的第 7 列
awk -F : '/^huahua/{print $7}' passwd
# 搜索 passwd 文件以 huahua 关键字开头的所有行，并输出该行的第 1 列和第 7 列，中间以“，”号分割
awk -F : '/^huahua/{print $1","$7}' passwd
# 只有匹配了 pattern 的行才会执行 action

# 只显示/etc/passwd 的第一列和第七列，以逗号分割，且在所有行前面添加列名 user，shell 在最后一行添加"dahaige，/bin/zuishuai"
awk -F : 'BEGIN{print "user, shell"} {print $1","$7}END{print "dahaige,/bin/zuishuai"}' passwd
# BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行

# 将 passwd 文件中的用户 id 增加数值 1 并输出
awk -v i=1 -F : '{print $3+i}' passwd

（4） awk 的内置变量

变量	说明
FILENAME	文件名
NR	已读的记录数（行号）
NF	浏览记录的域的个数（切割后，列的个数）

# 统计 passwd 文件名，每行的行号，每行的列数
awk -F : '{print "filename:" FILENAME ",linenum:"NRR ",col:"NF}' passwd

十一、综合应用案例

1. 归档文件

需求：实现一个每天对指定目录归档备份的脚本，输入一个目录名称（末尾不带/），将目录下所有文件按天归档保存，并将归档日期附加在归档文件名上，放在/huahua/archive下。

归档命令：tar

后面可以加上-c 选项表示归档，加上-z 选项表示同时进行压缩，得到的文件后缀名为.tar.gz。

脚本实现如下：

#!/bin/bash
# 首先判断输入参数个数是否为 1
if [ $# -ne 1 ]
then
	echo "参数个数错误！应该输入一个参数，作为归档目录名"
	exit
fi
# 从参数中获取目录名称
if [ -d $1 ]
then
	echo
else
	echo
	echo "目录不存在！"
	echo
	exit
fi
DIR_NAME=$(basename $1)
DIR_PATH=$(cd $(dirname $1); pwd)
# 获取当前日期
DATE=$(date +%y%m%d)
# 定义生成的归档文件名称
FILE=archive_${DIR_NAME}_$DATE.tar.gz
DEST=/huahua/archive/$FILE
# 开始归档目录文件
echo "开始归档..."
echo
tar -czf $DEST $DIR_PATH/$DIR_NAME
if [ $? -eq 0 ]
then
	echo
	echo "归档成功！"
	echo "归档文件为：$DEST"
	echo
else
	echo "归档出现问题！"
	echo
fi
exit

2. 发送消息

需求：实现一个向某个用户快速发送消息的脚本，输入用户名作为第一个参数，后面直接跟要发送的消息。脚本需要检测用户是否登录在系统中、是否打开消息功能，以及当前发送消息是否为空。

利用 Linux 自带的 mesg 和 write 工具，向其它用户发送消息。
脚本实现如下：

#!/bin/bash
login_user=$(who | grep -i -m 1 $1 | awk '{print $1}')
if [ -z $login_user ]
then
	echo "$1 不在线！"
	echo "脚本退出.."
exit
fi
is_allowed=$(who -T | grep -i -m 1 $1 | awk '{print $2}')
if [ $is_allowed != "+" ]
then
	echo "$1 没有开启消息功能"
	echo "脚本退出.."
exit
fi
if [ -z $2 ]
then
	echo "没有消息发出"
	echo "脚本退出.."
exit
fi
whole_msg=$(echo $* | cut -d " " -f 2- )
user_terminal=$(who | grep -i -m 1 $1 | awk '{print $2}')
echo $whole_msg | write $login_user $user_terminal
if [ $? != 0 ]
then
	echo "发送失败！"
else
	echo "发送成功！"
fi
exit