shell正则表达式及三剑客grep命令

一、正则表达式概述
什么是正则表达式？

正则表达式是一种描述字符串匹配规则的重要工具

1、正则表达式定义
正则表达式，又称正规表达式、常规表达式

使用字符串描述、匹配一系列符合某个规则的字符串
正则表达式

普通字符： 大小写字母、数字、标点符号及一些其它符号
元字符： 在正则表达式中具有特殊意义的专用字符
正则表达式的层次分类

基础正则表达式
扩展正则表达式
Linux三剑客（grep、sed、awk）支持的正则表达式

shell是不支持正则表达式的（shell支持的是通配符）。shell中的正则表达式只有个别命令支持的，一般常用的是Linux三剑客
支持正则的shell命令    正则类型
grep    默认使用基本正则表达式(BRE)（要使用扩展正则需要加转义字符）
egrep 或grep -E    使用扩展的正则表达式(ERE)
sed    默认使用基本正则表达式（BRE）
awk    使用扩展正则表达式(ERE)
2 基础正则表达式的元字符
基础正则表达式是常用的正则表达式部分

2.1 匹配字符
\ ： 表示转义字符，去掉特殊符号的特殊含义

\n ： 匹配换行符

\t ： 匹配制表符

\w ： 匹配单词字符（单词字符：a-z，A-Z，0-9，_ ）

\W ： 匹配非单词字符

\S : 匹配非空白字符

\s : 匹配空白字符

\d ： 匹配数字

\D : 匹配非数字

. ： 表示匹配任意单个字符（默认情况下，. 无法匹配换行符）

2.2 中括号表达式
字符组： 普通中括号包围的字符组，表示某个单个字符匹配中括号内的任意字符即匹配成功

x[abc]z ： 可以匹配包含“xaz”、“xbz”、“xcz”的字符串
取反表示法： 中括号内开头使用 ^ ,表示只要不是中括号内的字符就匹配
x[ ^abc]z ： 可以匹配包含 “xdz”、“xez” 等字符串，但不能匹配包含“xaz”、“xbz”、“xcz”的字符串
范围表示法

[a-z]： 表示任意单个小写字母

[ ^a-z] ： 匹配非小写字母的其它任意字符串
[A-Z] ： 表示任意单个大写字符

[0-9] ： 表示任意单个数字

注意：[0-59]，表示匹配0、1、2、3、4、5、9，而不是0-59中间的数值
[a-z0-9A-Z] ： 表示任意字母或数字

[a-z0-9A-Z_] ： 表示任意字符、数字或下划线，也就是匹配单个字符

特殊的元字符在中括号中匹配

想要在中括号中匹配： ^ ，需要将其放在 中括号非开头的位置 ，如：[a^]
想要在中括号中匹配： - ，需要将其放在 开头位置或结尾位置 ，如：[abc-]、[-abc]
想要在中括号中匹配： ] ，需要将其放在 开头位置 ，如：[]abc]
2.3 位置匹配（锚定）
只匹配位置，不匹配字符，所以不会消耗字符数量，也称为零宽断言

^ ： 匹配行首
$ ： 匹配行尾
2.4 量词（重复匹配次数）
\{m\} ： 表示匹配前一个字符或前一个子表达式m次

\{m，n\} ： （m<n）表示匹配前一个字符或前一个字表达式最少m次，最多n次

\{m，\} ： 表示匹配前一个字符或前一个子表达式至少m次

\{，n\} ： 表示匹配前一个字符或前一个字表达式最多n次（匹配0次也算是成功）

*： 表示前一个字符或前一个子表达式匹配0次或多次，等价于：{0，}

.* ： 匹配任意长度的任意字符
**注意：这些量词均为贪婪匹配模式，就是尽可能的去匹配符合条件的字符，例如：ab. *c 去匹配字符串：abbcdecfc，其中. * 部分匹配的将是bcdecf **

2 扩展正则表达式的元字符
2.1 扩展常用的量词
？ ： 表示匹配前一个字符或前一个子表达式0或1次，等价于：{0，1}或者{，1}

+： 表示匹配前一个字符或前一个子表达式1次或多次，就是最少一次，等价于：{1，}

2.2 二选一表达式
竖线 | 分隔左右两个正则子表达式，表示匹配任何一个即可，即a|b表示：a或者b，在结果上等价[ab]；但是：[0-5] |\sa 表示0、1、2、3、4、5 或者 “ a”，这种转化不了为[]的形式。

使用二选一子表达式需要注意：

二选一元字符优先级很低，所以abc|def 表示的是abc或者def，等价于：(abc)|(def)，而不是ab(c|d)ef。
2.3 分组捕获和反向引用
使用小括号（）包围一部分正则表达式，这部分正则表达式即成为一个分组整体，也称为一个子表达式。

根据左括号的位置决定第几个分组

例如：(abc)def 、([a-d]){3}、 ([0-9]abc(def){2}(hgi))。
分组后可以使用\N 来反向引用对应的分组匹配结果，N是1-9的正整数，\1表示第一个分组表达式的匹配结果，\2表达第二个分组表达式的匹配结果。

注意：反向引用引用的是分组匹配后的结果，不是分组表达式

例如：正则表达式：(abc|def) and \1xyz 可以匹配字符串“abc and abcxyz ” 或“def and defxyz”，但是不能匹配“abc and defxyz” 或 “def and abcxyz”

二、grep命令的使用
1、grep命令简介
grep是一种强大的文本搜索工具，它能使用正则表达式，并把匹配的行打印出来。

格式

grep  [options]  pattern   [file]

options表示：选项; pattern 表示：匹配的的表达式 ; file 表示：文件名

例如：grep  -i  "root" /etc/passwd

2、常用选项
常用选项    功能
-n    列出所匹配的文本行，并显示行号
-i    匹配时忽略字符大小写
-v    反向匹配，匹配的字符串与搜索的不相符
-w    精确匹配。匹配整个单词
-o    只显示匹配的部分
-c    显示匹配内容的行数