1 Here Document 免交互
1.1 Here Document 概述
Here Document 是一个特殊用途的代码块。它在 Linux Shell 中使用 I/O 重定向的方式将 命令列表提供给交互式程序或命令,比如 ftp、cat 或 read 命令。Here Document 是标准输 入的一种替代品,可以帮助脚本开发人员不必使用临时文件来构建输入信息,而是直接就地 生产出一个文件并用作命令的标准输入。它的基本语法格式如下。
命令 <<标记
...
...
... 标记
特殊字符“在标记和命令之前,这样做的目的是将命令块的输出重定向到程序或命令 的 stdin。标记的选择要确保不会出现在其他地方,避免出现混淆;两个标记之间的内容被 当做是一个文件并用作“命令”的标准输入。另外 Here Document 也可以与非交互式程序和 命令一起使用。
在实际使用过程中,有四点需要注意。
- 标记可以使用任意的合法字符;
- 结尾的标记一定要顶格写,前面不能有任何字符;
- 结尾的标记后面也不能有任何字符(包括空格);
- 开头的标记前后的空格会被省略掉。
在 Linux 系统中使用 wc -l 命令后面直接跟文件名就可以统计文件内有多少行内容。采 用 Here Document 免交互方式也可以实现对行数的统计。将要统计的内容置于标记“EOF” 之间,直接将内容传给 wc -l 来统计,具体操作如下所示。
[root@localhost ~]# vim here_wc_count.sh
#!/bin/bash
wc -l <<EOF //Here Document 语法结构
Line 1 //EOF 之间是传入内容
Line 2
EOF
[root@localhost ~]# chmod +x here_wc_count.sh
[root@localhost ~]# ./here_wc_count.sh
2
1.2 Here Document 免交互
1. 通过 read 命令接收输入并打印
通常使用 read 命令接收用户的输入值时会有交互过程,尤其是在脚本执行过程中遇到 read 命令,脚本会停下来等待用户输入值后才会继续。
[root@localhost ~]# vim here_non_interactive_read.sh
#!/bin/bash
read i <<EOF
Hi
EOF
echo $i
[root@localhost ~]# chmod +x here_non_interactive_read.sh
[root@localhost ~]# ./here_non_interactive_read.sh
[root@localhost ~]# Hi
2. 通过 passwd 给用户设置密码
通过 passwd 命令给 jerry 用户设置密码,为避免重复交互,可使用 Here Document 的方式。EOF 标记之间的两行是输入的密码和确认密码,两行内容必须保持一致,否则密 码设置不成功。此脚本执行后不会输出任何信息,可另开一个终端使用 jerry 用户登录,输 入新修改的密码来验证密码是否修改正确。
[root@localhost ~]# vim here_non_interactive_passwd.sh
#!/bin/bash
passwd jerry <<EOF
This_is_password //这两行是输入的密码和确认密码
This_is_password
EOF
[root@localhost ~]# chmod +x here_non_interactive_passwd.sh
[root@localhost ~]# ./here_non_interactive_passwd.sh
[root@localhost ~]#
1.3 Here Document 变量设定
Here Document 也支持使用变量,如果标记之间有变量被使用,会先替换变量值。如 果想要将一些内容写入文件,除了常规的方法外,也可以使用 Here Document。如果写入 的内容中包含变量,在写入文件时要先将变量替换成实际值,在结合 cat 命令完成写入。
[root@localhost ~]# vim here_var_replace.sh
#!/bin/bash
doc_file="2019.txt"
i="company" cat > $doc_file << HERE
Take him from home to $i
HERE
[root@localhost ~]# chmod +x here_var_replace.sh
[root@localhost ~]# ./here_var_replace.sh
[root@localhost ~]# cat 2019.txt
Take him from home to company
除了变量替换,还可以使用 Here Document 来进行变量的设定。Here Document 不光 可以将标记内容传给命令来执行,还可以将整体赋值给一个变量,然后通过 echo 命令将变 量值打印出来。
[root@localhost ~]# vim here_var_set.sh
#!/bin/bash
ivar="Great! Beautyful!" myvar=$(cat <<EOF //将 Here Document 整体赋值给变量
This is Line 1. That are Sun,Moon and Stars. $ivar //输出时会进行变量替换
EOF
)
echo $myvar
[root@localhost ~]# sh here_var_set.sh
This is Line 1. That are Sun,Moon and Stars. Great! Beautyful!
在上述操作过程中,$ivar 先进行了替换,之后再转向输出,交由 cat 显示出来,其结 果放置到$()中,最后得到上述结果。
1.4 Here Document 格式控制
Here Document 支持两种控制输出格式的类型:关闭变量替换的功能与去掉每行之前 的 TAB 字符。
(1)关闭变量替换的功能。
关闭变量替换的功能,就是希望按照字符原本的样子输出,不做任何修改或替换。
[root@localhost ~]# cat here_format_shut.sh
#!/bin/bash
cat <<'EOF' //对标记加单引号,即可关闭变量替换
This is Line 1.
$kgc
EOF
[root@localhost ~]# sh here_format_shut.sh
This is Line 1.
$kgc //$kgc 没有发生改变,不做变量替换
(2)去掉每行之前的 TAB 字符。
本示例的标记内,每行都有一个 TAB 字符。在第一行的标记前面加‘-’,这个表示要抑制各行首 TAB 的作用。
[root@localhost ~]# vim here_format_tab.sh
#!/bin/bash
cat <<-'EOF'
This is Line 1.
$kgc
EOF
[root@localhost ~]# sh here_format_tab.sh
This is Line 1.
$kgc //输出结果同上一示例
1.5 Here Document 多行注释
Bash 的默认注释是“#”,该注释方法只支持单行注释,在 Shell 脚本的工作中,“#”右侧 的任何字符串,bash 都会将其忽略。Here Document 的引入解决了多行注释的问题,其语 法格式如下。
: << DO-NOTHING
第一行注释
第二行注释
……
DO-NOTHING
上述语法结构中“:”代表什么都不做的空命令。中间标记区域的内容不会被执行,会被 bash 忽略掉,因此可达到批量注释的效果。
下面脚本用于演示 Shell 中多行注释,“:”开头的 Here Document 标记内容不会被执行, 在需要使用多行注释的时候可以采用此方法。
[root@localhost ~]# vim here_multi.sh
#!/bin/bash
: <<BASH-HERE //多行注释
the first comment.
the second comment.
test line. BASH-HERE
echo "exec string."
[root@localhost ~]# sh here_multi.sh
exec string.
2 expect 免交互
2.1 expect 概述
expect 是建立在 tcl 语言基础上的一个工具,它可以让一些需要交互的任务自动化地完 成,相当于模拟了用户和命令行的交互操作。expect 是用来进行自动化控制和测试的工具。 主要解决 shell 脚本中不可交互的问题。对于大规模的 Linux 运维很有帮助。
在 Linux 运维和开发中,经常需要远程登录服务器进行操作,登录的过程是一个交互的 过程,可能会需要输入 yes/no, password 等信息。为了模拟这种输入,可以使用 expect 脚本。
2.2 except 安装
Linux 系统自身并没有安装 expect 和 tcl,需要手动安装。CentOS 7.3 光盘中默认包含 expect 安装包,所以需要先挂载光盘,制作本地 yum 仓库,然后通过 yum 安装 expect。 安装过程中,yum 会自动安装 expect 的依赖软件 tcl。具体安装步骤如下。
(1)挂载光盘
通过 mount 命令挂载光盘到本地的/media 目录
[root@localhost ~]# mount /dev/sr0 /media
(2)制作本地 YUM 源
进入/etc/yum.repos.d/目录,删除默认存在的所有仓库配置文件,新建文件,并命名为 local.repo,其中后缀.repo 是必须的。配置文件内容如下。
[root@localhost ~]# vim /etc/yum.repos.d/local.repo
name=localrepo
baseurl=file:///media
gpgcheck=0
编写完配置文件后,执行以下命令删除 yum 缓存并更新。
[root@localhost ~]# yum clean all
[root@localhost ~]# yum make cache
(3)执行安装命令
执行以下命令,通过 yum 安装 expect 软件。
[root@localhost ~]# yum install -y expect
安装完之后,可以通过 rpm -qa 检查一下是否安装成功。
[root@localhost~]# rpm -qa|grep expect
expect-5.45-14.el7_1.x86_64
[root@localhost ~]# rpm -qa|grep tcl
tcl-8.5.13-8.el7.x86_64
2.3 基本命令介绍
(1)脚本解释器
expect 脚本中首先引入文件,表明使用的是哪一个 shell。
#!/usr/bin/expect
(2)expect/send
expect 命令用来判断上次输出结果里是否包含指定的字符串,如果有则立即返回,否 则就等待超时时间后返回,只能捕捉由 spawn 启动的进程的输出。
expect 接收命令执行后的输出,然后和期望字符串匹配,若匹配成功则执行相应的 send 向进程发送字符串,用于模拟用户的输入。Send 发送的命令不能自动回车换行,一般 要加\r(回车)。其常见语法形式有以下三种。
方式一
expect "$case1" {send "$respond1\r"}
方式二
expect "$case1"
send "$response1\r"
方式三
expect 支持多个分支。
expect
{
"$case1" {send "$response1\r"}
"$case2" {send "$response2\r"}
"$case3" {send "$response3\r"}
}
上述语法结构中$case1 代表检测命令的输出结果,如果输出内容和$case1 一致,通过 send 命令模拟用户发送内容到终端。
(3)spawn
spawn 后面通常跟一个命令,表示开启一个会话、启动进程,并跟踪后续交互信息。其语法如下所示。
spawn Linux 执行命令
例如,如果想要跟踪切换用户的交互信息,
可以执行以下命令。
spawn su root
(4)结束符
- expect eof :等待执行结束,若没有这一句,可能导致命令还没执行,脚本就结束了。
- interact : 执行完成后保持交互状态, 把控制权交给控制台,这时可以手动输入信息。 需要注意的是,expect eof 与 interact 只能二选一。
(5)set
expect 默认的超时时间是 10 秒,通过 set 命令可以设置会话超时时间, 若不限制超时 时间则应设置为-1。例如执行以下命令即可将超时时间设置为 30 秒。
set timeout 30
(6)exp_continue
exp_continue 表示允许 expect 继续向下执行指令。
(7)send_user
send_user 表示回显命令,相当于 echo。
(8)接收参数
expect 脚本可以接受从 bash 传递的参数,使用[lindex $argv n]获得。其中 n 从 0 开始, 分别表示第一个,第二个,第三个....参数。
参数存在 argv 中,使用第一个参数如下:
set param0 [lindex $argv 0]
$argc 表示参数个数,判断语句如下:
if {$argc< 1} {
#do something
send_user "usage: $argv0 <param1><param2> ... "
exit
}
在上述脚本中,$argv0 是脚本名,但[lindex $argv 0]是第一个参数 param1, [lindex $argv 1]是第二个参数 param2, 以此类推。send_user 用来显示信息到父进程(一般为用户 的 shell)的标准输出。
2.4 expect 语法
1. 语法结构
(1)单一分支语法
单一分支用于简单的用户交互,当监控命令的标准输出满足 expect 指定的字符串时, 向标准输入发送 send 指定的字符串。具体用法如下所示。默认情况下,send 不会向标准 输入发送回车键,所以需要通过\r 手动换行。
expect "password:" {send "mypassword\r“;}
(2)多分支模式语法
多分支用于复杂的用户交互,一般情况下输出内容可能有多个,根据不同的输出内容, 分别向标准输入发送不同的内容。其语法格式如下所示,只要匹配了 aaa、bbb 或 ccc 中的 任何一个,就执行相应的 send 语句,然后退出该 expect 语句。
expect
{
"aaa" {send "AAA\r"}
"bbb" {send "BBB\r"}
"ccc" {send "CCC\r"}
}
除了上述的多分支结构之外,还有另外一种多分支结构,具体使用方法如下所示。 exp_continue 表示继续后面的匹配,假如配了 aaa,执行完 send 语句后还要继续向下匹配 bbb。
expect
{
"aaa" {send “AAA”;exp_continue}
"bbb" {send “BBB”;exp_continue }
"ccc" {send "CCC"}
}
2. expect 执行方式
(1)直接执行
通过 SSH 方式登录远程服务器,需要输入用户名和密码,比较繁琐。如果服务器比较 多,手动输入用户名和密码会耗费大量时间,expect 命令可以实现自动登录远程服务器, 并进入交互模式。
[root@localhost ~]# more direct.sh
#!/usr/bin/expect
set timeout 60
log_file test.log
log_user 1
set hostname [lindex $argv 0]
set password [lindex $argv 1]
spawn ssh root@${hostname}
expect { "(yes/no)"
{send "yes\r"; exp_continue} "*password"
{send "$password\r"}
}
interact[root@localhost ~]# chmod +x direct.sh [root@localhost ~]# ./direct.sh 127.0.0.1 123456 //参数为主机 ip 和密码
(2)嵌入执行
上面讲到的直接执行的方式需要 expect 命令去执行脚本,在编写 Shell 脚本的时候需 要去调用 expect 脚本,使用不灵活。这种情况下,可以采用嵌入执行模式,将 expect 过程 融入 Shell 当中,方便执行和处理。
[root@localhost ~]# more implant.sh
#!/bin/bash
hostname=$1
password=$2
/usr/bin/expect<<-EOF //expect 开始标志
spawn ssh root@${hostname}
expect { "(yes/no)"
{send "yes\r";exp_continue} "*password"
{send "$password\r"}
}
expect "*]#" send "exit\r" expect eof
EOF //expect 结束标志,EOF 前后不能有空格
[root@localhost ~]# sh implant.sh 127.0.0.1 123456 //参数为主机 ip 和密码
2.5 expect 案例
1. 创建用户并设置密码
正常情况下创建用户 jack 并密码为 jack123 的交互过程如下所示。
[root@localhost ~]# useradd jack
[root@localhost ~]# passwd jack
Changing password for user jack. New password:
BAD PASSWORD: The password is shorter than 8 characters
Retype new password:
passwd: all authentication tokens updated successfully.
根据正常的交互过程,编写 expect 脚本如下所示。
[root@localhost ~]# vim expect_ch_passwd.sh
#!/bin/bash
user=$1
password=$2
useradd $user
expect << EOF
spawn passwd $user //开启一个进程跟踪 passwd 命令,expect 只能捕捉该进程信息
expect "New password:" //匹配输出信息"New password:" send "${password}\r" //自动输入密码
expect "Retype new password:" //匹配输出信息"Retype new password:" send "${password}\r" //自动输入密码
expect eof; //等待结束标记
EOF
[root@localhost ~]# chmod +x expect_ch_passwd.sh
[root@localhost ~]# ./expect_ch_passwd.sh jack jack123
spawn passwd jack
Changing password for user jack. New password:
BAD PASSWORD: The password contains the user name in some form
Retype new password:
passwd: all authentication tokens updated successfully.
2. 实现 ssh 自动登录
ssh 登录过程根据不同的场景会出现多种交互形式,比较典型的交互场景如下所示。
首次登录。
[root@localhost ~]# ssh 192.168.8.136
The authenticity of host '192.168.8.136 (192.168.8.136)' can't be established.
ECDSA key fingerprint is 61:9c:8f:1f:aa:41:e4:48:16:18:cb:61:52:a7:dd:00.
Are you sure you want to continue connecting (yes/no)?
正常登录。
[root@localhost ~]# ssh 192.168.8.136
root@192.168.8.136's password:
连接被拒绝,可能是 ssh 服务没启动,或者端口不对,或者防火墙限制。
[root@localhost ~]# ssh 192.168.8.136 -p 12345
ssh: connect to host 192.168.8.136 port 12345: Connection refused
没有连接地址。
[root@localhost ~]# ssh abcd
ssh: Could not resolve hostname abcd: Name or service not known.
利用 expect,根据上述不同的场景,可编写脚本如下所示。
[root@localhost ~]# more expect_auto_ssh.sh
#!/usr/bin/expect
set timeout 5
set hostname [lindex $argv 0]
set password [lindex $argv 1]
spawn ssh $hostname
expect { "Connection refused" exit "Name or service not known" exit "to continue" {send "yes\r";exp_continue} "password:" {send "$password\r"}
}
interact
exit
[root@localhost ~]# chmod +x expect_auto_ssh.sh
[root@localhost ~]# ./expect_auto_ssh.sh 192.168.8.136 abc123
spawn ssh 192.168.8.136
root@192.168.8.136's password:Last login: Fri Apr 20 17:38:35 2018 from 192.168.8.134
3. 利用 expect 完成 FTP 登录过程
正常的 FTP 登录交互过程如下所示。
[root@localhost ~]# ftp 192.168.8.33
Connected to 192.168.8.136 (192.168.8.136).
220 (vsFTPd 3.0.2)
Name (192.168.8.136:root): ftp
331 Please specify the password. Password:
230 Login successful. Remote system type is UNIX.
Using binary mode to transfer files.
ftp> cd pub
250 Directory successfully changed.
ftp>
编写 expect 脚本如下所示。
[root@localhost ~]# vim expect_ftp.sh
#!/usr/bin/expect -f
set timeout 10
spawn ftp 192.168.8.33
expect "Name*"
send "ftp\r"
expect "Password:*"
send "\r" expect "ftp>*"
interact
expect eof
[root@localhost ~]# chmod +x expect_ftp.sh
[root@localhost ~]# ./expect_ftp.sh
spawn ftp 192.168.8.33
Connected to 192.168.8.33 (192.168.8.33).
220 (vsFTPd 3.0.2)
Name (192.168.8.33:root): ftp
331 Please specify the password.
Password:230 Login successful.
Remote system type is UNIX.
Using binary mode to transfer files.
ftp>
ftp>