linux正则表达式脚本实例,shell脚本及正则表达式

shell脚本的编写及正则表达式：

一、shell脚本的基本：

1.首先shell脚本到底是什么？

1)纯文本文档--文件中所存储的数据都是以字符为单位进行存储的；

2)根据用户的需求来解决用户问题的大量命令的组合体

3)“执行幂等性”――任何命令多次执行的结果是一致的

注意：很多命令都不具备“执行幂等性”，在shell脚本中就需要大量的程序逻辑来判断某个命令是否满足其运行条件，以避免在运行过程中出现严重错误。

2.脚本的基本代码内容：

1)首先我们可以利用文本编辑工具来编写shell脚本：

例如：Nano 、vi、Vim、emacs、pico

在这里我们推荐使用Vim，因为它具有语法着色，自动缩进等特性

脚本的命令方式：可以使用.sh的文件名为后缀；在低版本的Vim编辑器，只能根据.sh的后缀命令来识别是否为shell脚本，高版本的Vim编辑器，则无需过多的文件后缀名的问题；

2)shebang:首行必须是shebang，解释器路径，必须占据就对行首：在执行时，启动相应的解释器以解释脚本内诸多的命令

因为我们使用的shell为bash

#! /bin/bash

3) 在shell脚本中，除了shebang之外，所有以#开头的行都为注释行，解释器都会忽略这样的行的内容

例如：

# author：秦耀东

# type：基础练习

...

4)空白行:解释器会忽略脚本中所有的空白行；

5)大量的关键字和命令:if、else、then、do、while、for、...

6) bash中所有的特殊想字符

/// 注意：shell脚本一旦运行，是在当前的shell中根据shebang的指示，开启一个解释器(子shell)解释执行代码内容，shell脚本的内容是在一个子shell进程中实现的；

3.脚本的运行方法：

1)为脚本文件赋予执行权限，直接运行此文件：

~ ]#  chmod  +x /PATH/TO/SCRIPT_FILE

注意：如果在执行脚本时，只写脚本的名不写路径的话，必须确保PATH变量中保存的路径下，能够找到该文件；

2)直接使用解释器运行脚本，讲脚本作为解释器命令的参数；

bash /PATH/TO/SCRIPT_FILE

bash -x /PATH/TO/SCRIPT_FILE(将脚本的运行过程展示出来，一般用于脚本排错)

bash -n /PATH/TO/SCRIPT_FILE(对脚本进行语法排错，如果存在语法错误，则 bash会给予提示，针对于这类错误提示，，需要我们自行判断错误的发生位置)

二、正则表达式：

在学习正则表达式之前我们先来学习文本处理工具：

文本处理三剑客：

grep系：grep、egrep、fgrep，文本搜索工具，基于"PATTERN"对于给定的文本进行模糊搜索，grep系默认工作于贪婪模式下；

sed：Stream EDitor，流编辑器，行编辑器，文本编辑工具；

awk：gawk――GNU awk，文本格式化工具，文本报告生成器，文本处理的编程语言；

1.grep系：grep  egrep  fgrep

1：grep:默认仅支持基本正则表达式

全称为Global search Regular Expression and Print out the line.利用正则表达式进行全局搜索并将匹配的行显示出来；

1)grep [OPTIONS] PATTERN [FILE...]

这里我们要介绍一下PATTERN,PATTERN是一种过滤条件，是由正则表达式元字符以及没有特殊含义的文本字符组成；

正则表达式的元字符会被正则表达式引擎解释为特殊含义；

正则表达式的文本字符是指只具备字符表面含义的字符；

常用选项为：

-i, --ignore-case：忽略文本字符的大小写；

-v, --invert-match：反向匹配；最终显示的结果是PATTERN不能成功匹配的行；

-c, --count：计数，统计匹配PATTERN的所有的行数；

-o, --only-matching：关闭贪婪模式，仅显示PATTERN能够匹配的内容；

-q, --quiet, --silent：安静模式，不输出任何匹配结果；

--color[=WHEN], --colour[=WHEN]：将匹配PATTERN的内容以特殊颜色高亮显示；

--color=auto

-E, --extended-regexp：扩展的正则表达式，grep -E相当于egrep；

-F, --fixed-strings, --fixed-regexp：grep -F相当于fgrep

-G, --basic-regexp：基本的正则表达式，egrep -G相当于grep

-P, --perl-regexp：使用PCRE(Perl Common Regular Expression)引擎；

-A NUM, --after-context=NUM：在显示匹配PATTERN的行的同时显示其后面的NUM行；

-B NUM, --before-context=NUM：在显示匹配PATTERN的行的同时显示其前面的NUM行；

-C NUM, -NUM, --context=NUM：在显示匹配PATTERN的行的同时显示其前后各NUM行；

基本的正则表达式的元字符：

1) 字符匹配;

. ：匹配任意单个字符；

[]：匹配指定范围内的任意单个字符；

[^]：匹配指定范围以外的任意单个字符；

下列所有的字符集都可以放置于[]之中用于匹配单个字符；

[:lower:]:所有小写的单个字符

[:upper:]：所有大写的字母

[:alpha:]：所有字母字符

[:digit:]：所有的十进制数字

[:space:]：所有的空白字符

[:alnum:]：表示所有的大小写字母以及十进制数字

[:punct:]：所有的标点符号

[:xdigit:]：所有的十六进制数字；

a-z：所有的小写字母

A-Z：所有的大写字母

0-9：标识所有的十进制数字

2)次数匹配

*：其前面的字符可以出现任意次(0次，1次或多次)；

\?：其前面的字符可有可无(0次或1次)；

\+：其前面的字符至少出现一次(1次或多次)；

\{m\}：其前面的字符必须出现m次；

\{m,n\}：其前面的字符至少出现m次，至多出现n次；(m

\{,n\}：其前面的字符至少出现0次，至多出现n次；

\{m,\}：其前面的字符至少出现m次，多多益善；

在正则表达式中，表示任意长度任意字符的方式：.*

位置锚定字符：

行锚定：

行首锚定：^

行尾锚定：$

字锚定：

字首锚定：\

字尾锚定：\>或\b

\b：旧版本中的锚定方法，建议不使用；

对于正则表达式引擎来说，字是由非特殊字符组成的连续字符串；

分组与引用字符：

\(PATTERN\)：将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理

在正则表达式引擎之中，有一系列的内置变量，这些变量会保存所有分组内的字符信息，用于后向引用；这些变量依次是：\1, \2, \3, ...

pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)

\1：pattern2

\2：pattern4

\3：pattern5

\1：第一组小括号中的pattern匹配到的字符；

\2：第二组小括号中的pattern匹配到的字符；

...

/ 例：请找出在/etc/passwd中用户的UID和GID相同的用户账户；

~]# grep '\(\\).*\1' /etc/passwd

或：\|

注意：\|将其左右两边的字符串当作整体对待；

A\|american  :A或american

请找出ifconfig命令的执行结果中数值在100-255之间的整数；

第一位：1 2

第二位：0-90-4  5

第三位：0-90-9  0-5

ifconfig | grep '\'

请找出ifconfig命令的执行结果中数值在0-255之间的整数；

2.grep [OPTIONS] [-e PATTERN | -f FILE] [FILE...]

默认情况下，grep命令后面只允许有一个PATTERN；

如果想要在一次grep所搜过程中写多个PATTERN，则需要使用-e选项；每个-e选项只能使用一个PATTERN作为参数；

将所需要的PATTERN写入到一个文件中，保证每行只有一个PATTERN；我们就可以使用-f FILE方式来实现多PATTERN匹配；

egrep：

egrep [OPTIONS] PATTERN [FILE...]

扩展的正则表达式元字符：

1) 字符匹配;

. ：匹配任意单个字符；

[]：匹配指定范围内的任意单个字符；

[^]：匹配指定范围以外的任意单个字符；

下列所有的字符集都可以放置于[]之中用于匹配单个字符；

[:lower:]:所有小写的单个字符

[:upper:]：所有大写的字母

[:alpha:]：所有字母字符

[:digit:]：所有的十进制数字

[:space:]：所有的空白字符

[:alnum:]：表示所有的大小写字母以及十进制数字

[:punct:]：所有的标点符号

[:xdigit:]：所有的十六进制数字；

a-z：所有的小写字母

A-Z：所有的大写字母

0-9：标识所有的十进制数字

2)次数匹配

*：其前面的字符可以出现任意次(0次，1次或多次)；

\?：其前面的字符可有可无(0次或1次)；

\+：其前面的字符至少出现一次(1次或多次)；

\{m\}：其前面的字符必须出现m次；

\{m,n\}：其前面的字符至少出现m次，至多出现n次；(m

\{,n\}：其前面的字符至少出现0次，至多出现n次；

\{m,\}：其前面的字符至少出现m次，多多益善；

在正则表达式中，表示任意长度任意字符的方式：.*

位置锚定字符：

行锚定：

行首锚定：^

行尾锚定：$

字锚定：

字首锚定：\

字尾锚定：\>或\b

分组与引用字符：

\(PATTERN\)：将此PATTERN所匹配到的所有字符当作一个不可分割的整体来处理

在正则表达式引擎之中，有一系列的内置变量，这些变量会保存所有分组内的字符信息，         用于后向引用；这些变量依次是：\1, \2, \3, ...

pattern1\(pattern2\)pattern3\(pattern4\(pattern5\)\)

\1：pattern2

\2：pattern4

\3：pattern5

\1：第一组小括号中的pattern匹配到的字符；

\2：第二组小括号中的pattern匹配到的字符；

...

/ 例：请找出在/etc/passwd中用户的UID和GID相同的用户账户；

~]# grep '\(\\).*\1' /etc/passwd

或：\|

注意：\|将其左右两边的字符串当作整体对待；

A\|american  :A或american

fgrep：PATTERN中所有的字符都被当作文本字符来处理；

其他的文本处理命令：

wc：

wc [OPTION]... [FILE]...

-l：只显示行数

-w：只显示字数

-c：只显示字符数

cut：remove sections from each line of files

能够被cut命令修剪的文件，一般都是具有一定结构或格式的文本文档；/etc/passwd

cut OPTION... [FILE]...

-d, --delimiter=DELIM：指定在实施修剪操作时所依赖的分隔符，默认是空白字符；

-f, --fields=LIST：根据定义的分隔符来指定字段的编号；

地址定界使用方法：

#：选择被指定的单个字段；

#,#：离散的多个被指定的单个字段；

#-#：连续的多个被指定的字段；

--output-delimiter=STRING：指定输出分隔符；

awk：

awk -F "DELIMITER" '[/PATTERN/]{print $1,$2,...$NF}' FILE...

-F "DELIMITER"：指定字段分隔符，默认为空白字符；

$1,$2,...,$NF：根据字段分隔符切割出来的文本片段都存放在相应的内部变量中；

sort：sort lines of text files，将文本文件按行继续排序，默认排序规则是按照ASCII表中的字符顺序进行，这个排序标准可修改；

-r, --reverse：逆序排序

-R, --random-sort：随机排序，这种随机算法是非常简陋的，不适用于复杂环境；

-u, --unique：重复出现的行，只保留一行；(连续且完全相同的行叫重复)，祛重；

-n, --numeric-sort：以数字的数值大小进行排序；

-t, --field-separator=SEP：指定字段分隔符；

-k, --key=KEYDEF：指明根据哪个关键字段进行排序，一般和-t同时使用；

uniq：report or omit repeated lines

-d, --repeated：只显示重复出现的行，而且每一组重复行只显示一行；

-u, --unique：只显示不重复的行；

-c, --count：在每行以前缀的方式显示重复行的重复次数；

diff：compare files line by line

同一文件的不同修改版本；打补丁；

patch：apply changes to files