正则表达式基础
在最简单的情况下,一个正则表达式看上去就是一个普通的查找串。例如,正则表达式"testing"中没有包含任何元字符,,它可以匹配"testing"和"123testing"等字符串,但是不能匹配"Testing"。
要想真正的用好正则表达式,正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。
元字符 | 描述 | |
---|---|---|
|
| |
| 匹配任何单个字符。例如正则表达式r.t匹配这些字符串:rat、rut、r t,但是不匹配root。 | |
| 匹配行结束符。例如正则表达式weasel$ 能够匹配字符串"He's a weasel"的末尾,但是不能匹配字符串"They are a bunch of weasels."。 | |
| 匹配一行的开始。例如正则表达式^When in能够匹配字符串"When in the course of human events"的开始,但是不能匹配"What and When in the"。 | |
| 匹配0或多个正好在它之前的那个字符。例如正则表达式.*意味着能够匹配任意数量的任何字符。 | |
| 这是引用府,用来将这里列出的这些元字符当作普通的字符来进行匹配。例如正则表达式\$被用来匹配美元符号,而不是行尾,类似的,正则表达式\.用来匹配点字符,而不是任何字符的通配符。 | |
[c1-c2] [^c1-c2] | 匹配括号中的任何一个字符。例如正则表达式r[aou]t匹配rat、rot和rut,但是不匹配ret。可以在括号中使用连字符-来指定字符的区间,例如正则表达式[0-9]可以匹配任何数字字符;还可以制定多个区间,例如正则表达式[A-Za-z]可以匹配任何大小写字母。另一个重要的用法是“排除”,要想匹配除了指定区间之外的字符——也就是所谓的补集——在左边的括号和第一个字符之间使用^字符,例如正则表达式[^269A-Z] 将匹配除了2、6、9和所有大写字母之外的任何字符。 | |
| 匹配词(word)的开始(\<)和结束(\>)。例如正则表达式\<the能够匹配字符串"for the wise"中的"the",但是不能匹配字符串"otherwise"中的"the"。注意:这个元字符不是所有的软件都支持的。 | |
| 将 和 之间的表达式定义为“组”(group),并且将匹配这个表达式的字符保存到一个临时区域(一个正则表达式中最多可以保存9个),它们可以用\1 到\9 的符号来引用。 | |
| 将两个匹配条件进行逻辑“或”(Or)运算。例如正则表达式(him|her) 匹配"it belongs to him"和"it belongs to her",但是不能匹配"it belongs to them."。注意:这个元字符不是所有的软件都支持的。 | |
| 匹配1或多个正好在它之前的那个字符。例如正则表达式9+匹配9、99、999等。注意:这个元字符不是所有的软件都支持的。 | |
| 匹配0或1个正好在它之前的那个字符。注意:这个元字符不是所有的软件都支持的。 | |
\{i,j\} | 匹配指定数目的字符,这些字符是在它之前的表达式定义的。例如正则表达式A[0-9]\{3\} 能够匹配字符"A"后面跟着正好3个数字字符的串,例如A123、A348等,但是不匹配A1234。而正则表达式[0-9]\{4,6\} 匹配连续的任意4个、5个或者6个数字字符。注意:这个元字符不是所有的软件都支持的。 |
正则表达式语法支持情况
命令或环境 | . | [ ] | ^ | $ | \{ \} | ? | + | | | ( ) | |
vi | X | X | X | X | X | |||||
Visual C++ | X | X | X | X | X | |||||
awk | X | X | X | X | X | X | X | X | ||
sed | X | X | X | X | X | X | ||||
Tcl | X | X | X | X | X | X | X | X | X | |
ex | X | X | X | X | X | X | ||||
grep | X | X | X | X | X | X | ||||
egrep | X | X | X | X | X | X | X | X | X | |
fgrep | X | X | X | X | X | |||||
perl | X | X | X | X | X | X | X | X | X |
节选:http://blog.chinaunix.net/space.php?uid=9078996&do=blog&id=2010308
◎语法: grep [options]
PATTERN [FILE...]
grep用以在file内文中比对相对应的部分,或是当没有指定档案时,
由标准输入中去比对。 在预设的情况下,grep会将符合样式的那一行列出。
此外,还有两个程式是grep的变化型,egrep及fgrep。
其中egrep就等同於grep -E ,fgrep等同於grep -F 。
◎参数
1. -A NUM,--after-context=NUM
除了列出符合行之外,并且列出後NUM行。
ex: $ grep -A 1 panda file
(从file中搜寻有panda样式的行,并显示该行的後1行)
2. -a或--text
grep原本是搜寻文字档,若拿二进位的档案作为搜寻的目标,
则会显示如下的讯息: Binary file 二进位档名 matches 然後结束。
若加上-a参数则可将二进位档案视为文字档案搜寻,
相当於--binary-files=text这个参数。
ex: (从二进位档案mv中去搜寻panda样式)
(错误!!!)
$ grep panda mv
Binary file mv matches
(这表示此档案有match之处,详见--binary-files=TYPE )
$
(正确!!!)
$ grep -a panda mv
3. -B NUM,--before-context=NUM
与 -A NUM 相对,但这此参数是显示除符合行之外
并显示在它之前的NUM行。
ex: (从file中搜寻有panda样式的行,并显示该行的前1行)
$ grep -B 1 panda file
4. -C [NUM], -NUM, --context[=NUM]
列出符合行之外并列出上下各NUM行,预设值是2。
ex: (列出file中除包含panda样式的行外并列出其上下2行)
(若要改变预设值,直接改变NUM即可)
$ grep -C[NUM] panda file
5. -b, --byte-offset
列出样式之前的内文总共有多少byte ..
ex: $ grep -b panda file
显示结果类似於:
0:panda
66:pandahuang
123:panda03
6. --binary-files=TYPE
此参数TYPE预设为binary(二进位),若以普通方式搜寻,只有2种结果:
1.若有符合的地方:显示Binary file 二进位档名 matches
2.若没有符合的地方:什麽都没有显示。
若TYPE为without-match,遇到此参数,
grep会认为此二进位档案没有包含任何搜寻样式,与-I 参数相同。
若TPYE为text, grep会将此二进位档视为text档案,与-a 参数相同。
Warning: --binary-files=text 若输出为终端机,可能会产生一些不必要的输出。
7. -c, --count
不显示符合样式行,只显示符合的总行数。
若再加上-v,--invert-match,参数显示不符合的总行数。
8. -d ACTION, --directories=ACTION
若输入的档案是一个资料夹,使用ACTION去处理这个资料夹。
预设ACTION是read(读取),也就是说此资料夹会被视为一般的档案;
若ACTION是skip(略过),资料夹会被grep略过:
若ACTION是recurse(递),grep会去读取资料夹下所有的档案,
此相当於-r 参数。
9. -E, --extended-regexp
采用规则表示式去解释样式。
10. -e PATTERN, --regexp=PATTERN
把样式做为一个partern,通常用在避免partern用-开始。
11. -f FILE, --file=FILE
事先将要搜寻的样式写入到一个档案,一行一个样式。
然後采用档案搜寻。
空的档案表示没有要搜寻的样式,因此也就不会有任何符合。
ex: (newfile为搜寻样式档)
$grep -f newfile file
12. -G, --basic-regexp
将样式视为基本的规则表示式解释。(此为预设)
13. -H, --with-filename
在每个符合样式行前加上符合的档案名称,若有路径会显示路径。
ex: (在file与testfile中搜寻panda样式)
$grep -H panda file ./testfile
file:panda
./testfile:panda
$
14. -h, --no-filename
与-H参数相类似,但在输出时不显示路径。
15. --help
产生简短的help讯息。
16. -I
grep会强制认为此二进位档案没有包含任何搜寻样式,
与--binary-files=without-match参数相同。
ex: $ grep -I panda mv
17. -i, --ignore-case
忽略大小写,包含要搜寻的样式及被搜寻的档案。
ex: $ grep -i panda mv
18. -L, --files-without-match
不显示平常一般的输出结果,反而显示出没有符合的档案名称。
19. -l, --files-with-matches
不显示平常一般的输出结果,只显示符合的档案名称。
20. --mmap
如果可能,使用mmap系统呼叫去读取输入,而不是预设的read系统呼叫。
在某些状况,--mmap 能产生较好的效能。 然而,--mmap
如果运作中档案缩短,或I/O 错误发生时,
可能造成未定义的行为(包含core dump),。
21. -n, --line-number
在显示行前,标上行号。
ex: $ grep -n panda file
显示结果相似於下:
行号:符合行的内容
22. -q, --quiet, --silent
不显示任何的一般输出。请参阅-s或--no-messages
23. -r, --recursive
递地,读取每个资料夹下的所有档案,此相当於 -d recsuse 参数。
24. -s, --no-messages
不显示关於不存在或无法读取的错误讯息。
小: 不像GNU grep,传统的grep不符合POSIX.2协定,
因为缺乏-q参数,且他的-s 参数表现像GNU grep的 -q 参数。
Shell Script倾向将传统的grep移植,避开-q及-s参数,
且将输出限制到/dev/null。
POSIX: 定义UNIX及UNIX-like系统需要提供的功能。
25. -V, --version
显示出grep的版本号到标准错误。
当您在回报有关grep的bugs时,grep版本号是必须要包含在内的。
26. -v, --invert-match
显示除搜寻样式行之外的全部。
27. -w, --word-regexp
将搜寻样式视为一个字去搜寻,完全符合该"字"的行才会被列出。
28. -x, --line-regexp
http://hi.baidu.com/yuanzelin8/blog/item/b918010627c78665020881e6.html
linux安全网
节选:http://blog.csdn.net/beyondlpf/article/details/6925897
-----------------------------------------------------
Grep的常用命令语法
1.
在g
在调用变量时,也应该使用双引号,诸如:
没有返回结果。
在调用模式匹配时,应使用单引号.[root@mypc
2.
-c
-i
-h
-l
-n
-s
-v
3.
$
$
接下来的所有示例是指在单个文件中进行查询
4.
$
$
$
5.
[root@mypc
1:1234
3:1234ab
6.
[root@mypc
1234
7.
结合使用^和$可查询空行。使用-
[root@mypc
[root@mypc
[root@mypc
8.
[root@mypc
[root@mypc
9.
[root@mypc
[root@mypc
[root@mypc]#
Awk的常用命令语法
awk命令擅长格式化报文或从一个大的文本文件中抽取数据包,下面是该命令的基本语法
awk
[
1.1域和记录
a
1.2保存a
$
$
1.3
[root@mypc
rpc:x:32:32:Portmapper
rpcuser:x:29:29:RPC
[root@mypc
[root@mypc
rpc:x:32:32:Portmapper
[root@mypc
[root@mypc
Sed的常用命令语法
Sed是一个非交互性文本流编辑器。它编辑文件或标准输入导出的文本拷贝。
1.行的匹配
[root@mypc
[root@mypc
[root@mypc
[root@mypc
rpc:x:32:32:Portmapper
rpcuser:x:29:29:RPC
[root@mypc
2.插入文本和附加文本(插入新行)
[root@mypc
ftp:x:14:50:FTP
[root@mypc
[root@mypc
[root@mypc
[root@mypc
[root@mypc
3.删除文本
[root@mypc
[root@mypc
[root@mypc
4.
[
[root@mypc
[root@mypc
[root@mypc
[root@mypc
[root@mypc
[root@mypc
5.
下面是一些一行命令集。([
‘s
‘-e
‘s
‘s
‘s
‘/
‘s
‘s
‘s
‘s
‘S
‘s
如果使用s
-----------------------------------------------------
sed 与 awk 专题( 鸟哥 )
sed 与 awk 这两个家伙相当有用 !
gerp 查找, sed 编辑, awk 根据内容分析.
sed ( 处理以行为单位 )
sed 本身也是一个管线命令, 可以分析 standard input, 而且 sed 开可以将数据进行取代, 删除, 新增, 截取特定行 等等功能,
sed [-nefr][动作]
选项与参数:
-n : 使用安静模式, 一般sed用法中, 所有来自 stdin 的数据一般都会被列出到屏幕上, 但是如果加上 –n 参数后, 则之后经过 sed 特殊处理的那一行(或者动作) 才会被列出来.
-e : 直接在指令列模式上进行 sed 的动作编辑
-f :直接将sed 的动作卸载一个档案内, –f filename 则可以执行 filename 内的 sed 动作;
-r : sed 的动作支持的是延伸型的正则表达式语法, (默认的是基础正则表达式语法)
-i : 直接修改读取档案的内容, 而不是由屏幕输出.
动作说明: [n1,[n2]] function
n1, n2 不见得会存在, 一般代表[选择进行动作的行数], 例如, 需要再10-20行之间进行的, 则 10,20 动作行为.
function : 动作如下
a : 新增, a 后面可以接字符串, 而这些字符串会在新一行会粗线(目前的下一行)
c : 取代, c 后面可以接字符串, 这些字符串可以取代 n1, n2 之间的行
d : 删除, 因为是删除, 所以 d 后面通常不接任何东西
i :插入, i 后面可以接字符串, 而这些字符串会在新的一行出现(目前的上一个行)
p : 打印, 即将某个选择的数据打印, 通常 p 会与参数 sed –n 一起运作
s : 取代, 可以直接进行取代的工作, 通常这个 s 的动作可以搭配正则表达式, 例如: 1,20s/old/new/g
例如 :
1. 将 /etc/passwd 内容打印出来, 并显示行号, 并删除第2-5行
nl /etc/passwd | sed ‘2,5d’ // 注意, sed 后一定要接两个单引号括起来
nl /etc/passwd | sed –n ‘2,5d’ // 注意, 这时什么也打印不出来, 因为 –n 的意思是只是将特殊处理行打印出来, 但是我们的特殊处理是删除, 所以就没有任何显示.
nl /etc/passwd | sed '2,$d’ // 从第二行删除到最后一行
2. 插入一行数据 , 插入2行数据
nl /etc/passwd | sed ‘2i hello’ // 在第2行前插入 hello
nl /etc/passwd | sed ‘2a hello’ // 在第2行后插入 hello
nl /etc/passwd | sed ‘2a hello\ 然后再下一行输入 world!’ // 这样就插入2行, 前面1行为 hello, 后面一行为 world!', 这样就可以增加好几行, 不过每行结尾到要有 \
3. 以行为单位取代或显示
nl /etc/passwd | sed ‘2,3c hello,world’ // 这样就将2-3行取代为 hello, world
nl /etc/passwd | sed -n‘2,3p’ // 这样就只打印, 2-3行, 也可以使用 head –n 3 | tail –n 1 (但是这个没有 sed 用起来好 )
4. 部分数据的搜索与替代功能
nl /etc/passwd | sed ‘2,3s/aaa/xxx/g’ // 其中 2,3 为行数, 可以省略, 如果省略则是替换全文, s 表示替换 aaa 表示旧值, xxx表示新值, g 是一个格式
另外注意, 因为 sed 处理是以行为单位, 所以以上的替换 会替换行内所有的 aaa, 比如 一行内有 3个 aaa, 那么这3个aaa都会被替换.
5. 直接修改档案内容 ( 危险 )
例如 sed –i ‘s/\.$/\!/g’ regular_express.txt
sed –i ‘s/aaa/xxx/g’ regular_express.txt // 直接修改档案文件, 替换的办法跟前面一样, 所不同的是, 这样就直接修改了档案文件.
awk (数据处理工具, 可以将行按照指定分隔符分成很多个区域 )
相对于 sed 常常用于一整行的处理, awk 则比较倾向于一行当中分成数个”字段”(即区域)来处理, awk 通常运作模式为:
awk ‘条件类型1{动作1}条件类型2{动作2}…’ filename
awk 后面接两个单引号并加上大括号{}来设定想要对数据进行处理的动作. awk 可以处理后续接的档案即 filename, 也可以读取来自前一个指令的 standard output, 例如香港系统中的命令, 但如前面说, awk主要是处理每一行字段内的数据, 而默认的字段分隔符为”空格键”或tab键.
例如:
last –n 5 | awk ‘{print $1 “\t” $3}’ // 打印 第 1 个和 第3个区域, 用 “\t” 即 tab 来分隔显示
$0 代表整行, $1 代表第1个区域, $2 代表第2个区域, 依此类推
awk 的处理流程是:
1. 读入第一行, 并将第一行的资料填入 $0, $1, $2, … 等变量当中;
2. 依据”条件类型”的限制, 判断是否需要进行后面的”动作”;
3. 作完所有动作和条件类型;
4. 若还有后续的行的数据, 则重复上面的 1-3步骤, 直至所有的数据都读完为止.
所以, awk 是以行为 一次 处理单位, 而已区域为最小处理单位
另外, 还有3个变量, 分别是:
NF : 每一行($0) 拥有的字段数
NR : 目前 awk 所处理的是 第几行
FS : 目前的分隔符, 默认是空格键
注意: 因为 awk 后面必须接单引号, 所以在两个单引号之内, 例如需要使用 “\t” 时, 必须使用双引号, 因为引号要成对出现
last –n 5 | awk ‘{print $1 “\t” $2 “\t” NF “\t” NR “\t” FS}’
awk 的逻辑运算字符
> < >= <= == !==
cat /etc/passwd | awk ‘{FS=”:”} $3 < 10 {print $1 “\t” “$3”}’ // 这里的条件判断后边接{}, 这个大括号表示动作, 注意这里不是 if, else, 而是类似只有if, 就是说有一个条件, 后面跟一个动作, 这样
注意, 这里第一行显示有问题, 这是因为, 读取第1行是, FS = “:” 这条命令没有生效, 而默认的分隔符是空格, 所以这个文件的第一行就全部作为了第一个字段, 所以第1行就都显示出来了, 但是读取第2行时, 由于分隔符已经变成了 :所以, 第2 行以后就能正确显示, 那么怎么解决呢 ? 我们可以预先设定 awk 的变量, 利用 BEGIN 关键词:
cat /etc/passwd | awk ‘BEGIN {FS = “:”} $3 < 10 {print $1 “\t” $3}’
例如, 输出一个计算工资总和的例子: 数据的格式是这样的 :
Name Jan Feb Mar
张三 1000 1000 1000
李四 2000 2000 2000
王五 3000 3000 3000
因为我们要计算工资总和, 所以我们就要计算, 但是我们并不想计算第一行, 所以命令为
cat salary | awk ‘NR == 1 {printf “%5s %5s %5s %5s %5s\n”, $1, $2, $3, $4, “Total”} NR >= 2 {total = $2 + $3 + $4 ; printf “%5s %5d %5d %5d %5d\n”, $1, $2, $3, $4, total}’ // 看来打印的格式, 跟 c 语言相通, 另外, 所有的动作都在 {} 这个大括号内, 如果大括号内有多个命令可以使用; 分号来分隔, 与bash 不同的是, awk 中的变量可以直接使用, 而不用变量符号 $.
香港系统编译时, 也可以使用如下命令来进行修改, 编译的文件中, 主要的目的就是去掉空白行和前面注释的行. 那么可以这么进行
cat compileFile | sed ‘/^$/d’| grep ‘^[^#]’| awk ‘{}’ 其中 sed 是去掉空白行, grep 是去掉前边带注释的. awk 是直接编译文件, 注意这里的 sed 使用正则表达式时要加上 // 两个双斜线, 而grep 可以直接使用正则表达式
另外, 关于 awk 'begin{动作} end{动作}' begin 的动作表示的是读取文档之前的动作, end的动作表示的是读取文档之后的动作.