RHCSA&RHCE（RHCE7）学习知识点--Linux正规表示法与文件格式化处理

 

正规表示法 (Regular Expression, RE, 或称为常规表示法)是透过一些特殊字符的排列，用以『搜寻/取代/删除』一行或多行文字字符串，正规表示法就是用在字符串的处理上面的一项『表示式』。正规表示法并不是一个工具程序，而是一个字符串处理的标准依据，如果您想要以正规表示法的方式处理字符串，就得要使用支持正规表示法的工具程序才行，这类的工具程序很多，例如 vi, sed, awk 等等。

正规表示法就是处理字符串的方法，他是以行为单位来进行字符串的处理行为， 正规表示法透过一些特殊符号的辅助，可以让使用者轻易的达到『搜寻/删除/取代』某特定字符串的处理程序

『正规表示法与通配符是完全不一样的东西』,『通配符 (wildcard)代表的是 bash 操作接口的一个功能』，但正规表示法则是一种字符串处理的表示方式

基础正规表示法

正规表示法的字符串表示方式依照不同的严谨度而分为：基础正规表示法与延伸正规表示法。延伸型正规表示法除了简单的一组字符串处理之外，还可以作群组的字符串处理

语言对正规表示法的影响

使用正规表示法时，需要特别留意当时环境的语言为何，否则可能会发现与别人不相同的撷取结果

特殊符号	代表意义
[:alnum:]	代表英文大小写字符及数字，亦即 0-9, A-Z, a-z
[:alpha:]	代表任何英文大小写字符，亦即 A-Z, a-z
[:blank:]	代表空格键与 [Tab] 按键两者
[:cntrl:]	代表键盘上面的控制按键，亦即包括 CR, LF, Tab, Del.. 等等
[:digit:]	代表数字而已，亦即 0-9
[:graph:]	除了空格符 (空格键与 [Tab] 按键) 外的其他所有按键
[:lower:]	代表小写字符，亦即 a-z
[:print:]	代表任何可以被打印出来的字符
[:punct:]	代表标点符号 (punctuation symbol)，亦即：" ' ? ! ; : # $...
[:upper:]	代表大写字符，亦即 A-Z
[:space:]	任何会产生空白的字符，包括空格键, [Tab], CR 等等
[:xdigit:]	代表 16 进位的数字类型，因此包括： 0-9, A-F, a-f 的数字与字符

grep 的一些进阶选项

$ grep [-A] [-B] [--color=auto] '搜寻字符串' filename

选项与参数：

-A ：后面可加数字，为 after 的意思，除了列出该行外，后续的 n 行也列出来；

-B ：后面可加数字，为 befer 的意思，除了列出该行外，前面的 n 行也列出来；

--color=auto 可将正确的那个撷取数据列出颜色

基础正规表示法练习

• 例题一、搜寻特定字符串

取得 the 这个特定字符串

$ grep -n 'the' regular_express.txt

 

想要『反向选择』the

$ grep -vn 'the' regular_express.txt

• 例题二、利用中括号 [] 来搜寻集合字符

搜寻 test 或 taste 这两个单字

$ grep -n 't[ae]st' regular_express.txt

 

不想要 oo 前面有 g

$ grep -n '[^g]oo' regular_express.txt

 

oo 前面不想要有小写字符

$ grep -n '[^a-z]oo' regular_express.txt

$ grep -n '[^[:lower:]]oo' regular_express.txt

 

有数字的那一行

$ grep -n '[0-9]' regular_express.txt

$ grep -n '[[:digit:]]' regular_express.txt

• 例题三、行首与行尾字符 ^ $

the 只在行首列出

$ grep -n '^the' regular_express.txt

 

开头是小写字符的那一行就列出

$ grep -n '^[a-z]' regular_express.txt

 

第一个字符都不是大写的

$ grep -n '^[[:lower:]]' regular_express.txt

 

不想要开头是英文字母

$ grep -n '^[^a-zA-Z]' regular_express.txt

$ grep -n '^[^[:alpha:]]' regular_express.txt

注意：那个 ^ 符号，在字符集合符号(括号[])之内与之外是不同的，在 [] 内代表『反向选择』，在 [] 之外则代表定位在行首的意义

 

行尾结束为小数点 (.) 的那一行

$ grep -n '\.$' regular_express.txt

因为小数点具有其他意义，所以必须要使用转义字符(\)来加以解除其特殊意义

 

哪一行是『空白行』

$ grep -n '^$' regular_express.txt

• 例题四、任意一个字符 . 与重复字符 *

这两个符号在正规表示法的意义如下：

• . (小数点)：代表『一定有一个任意字符』的意思；
• * (星号)：代表『重复前一个字符，0到无穷多次』的意思，为组合形态

找出 g??d 的字符串，亦即共有四个字符，起头是 g 而结束是 d

$ grep -n 'g..d' regular_express.txt

 

注意：因为 * 代表的是『重复 0 个或多个前面的 RE 字符』的意义，因此，『o*』代表的是：『拥有空字符或一个 o 以上的字符』，特别注意，因为允许空字符(就是有没有字符都可以的意思)，因此，『grep -n 'o*' regular_express.txt 』将会把所有的数据都打印出来屏幕上

 

要找出 g 开头与 g 结尾的字符串，当中的字符可有可无

$ grep -n 'g.*g' regular_express.txt

 

$ grep -n 'g*g' regular_express.txt  ##错误

因为 g*g 里面的 g* 代表『空字符或一个以上的 g』 在加上后面的 g ，因此，整个 RE 的内容就是 g, gg, ggg, gggg ，因此，只要该行当中拥有一个以上的 g 就符合所需

• 例题五、限定连续 RE 字符范围 {}

限定范围的字符{}在shell是有特殊意义的，因此，我们必须要使用转义字符 \ 来让他失去特殊意义才行。

要找到两个 o 的字符串：

$ grep -n 'o\{2\}' regular_express.txt

 

要找出 g 后面接 2 到 5 个 o ，然后再接一个 g 的字符串

$ grep -n 'go\{2,5\}g' regular_express.txt

 

要的是 2 个 o 以上的 goooo....g

$ grep -n 'go\{2,\}g' regular_express.txt

基础正规表示法字符汇总 (characters)

RE 字符	意义与范例
^word	意义：待搜寻的字符串(word)在行首！ 范例：搜寻行首为 # 开始的那一行，并列出行号 grep -n '^#' regular_express.txt
word$	意义：待搜寻的字符串(word)在行尾！ 范例：将行尾为 ! 的那一行打印出来，并列出行号 grep -n '!$' regular_express.txt
.	意义：代表『一定有一个任意字符』的字符！ 范例：搜寻的字符串可以是 (eve) (eae) (eee) (e e)， 但不能仅有 (ee) ！亦即 e 与 e 中间『一定』仅有一个字符，而空格符也是字符！ grep -n 'e.e' regular_express.txt
\	意义：转义字符，将特殊符号的特殊意义去除！ 范例：搜寻含有单引号 ' 的那一行！ grep -n \' regular_express.txt
*	意义：重复零个到无穷多个的前一个 RE 字符 范例：找出含有 (es) (ess) (esss) 等等的字符串，注意，因为 * 可以是 0 个，所以 es 也是符合带搜寻字符串。另外，因为 * 为重复『前一个 RE 字符』的符号， 因此，在 * 之前必须要紧接着一个 RE 字符喔！例如任意字符则为 『.*』 ！ grep -n 'ess*' regular_express.txt
[list]	意义：字符集合的 RE 字符，里面列出想要撷取的字符！ 范例：搜寻含有 (gl) 或 (gd) 的那一行，需要特别留意的是，在 [] 当中『谨代表一个待搜寻的字符』， 例如『 a[afl]y 』代表搜寻的字符串可以是 aay, afy, aly 即 [afl] 代表 a 或 f 或 l 的意思！ grep -n 'g[ld]' regular_express.txt
[n1-n2]	意义：字符集合的 RE 字符，里面列出想要撷取的字符范围！ 范例：搜寻含有任意数字的那一行！需特别留意，在字符集合 [] 中的减号 - 是有特殊意义的，他代表两个字符之间的所有连续字符！但这个连续与否与 ASCII 编码有关，因此，你的编码需要设定正确(在 bash 当中，需要确定 LANG 与 LANGUAGE 的变量是否正确！) 例如所有大写字符则为 [A-Z] grep -n '[A-Z]' regular_express.txt
[^list]	意义：字符集合的 RE 字符，里面列出不要的字符串或范围！ 范例：搜寻的字符串可以是 (oog) (ood) 但不能是 (oot) ，那个 ^ 在 [] 内时，代表的意义是『反向选择』的意思。 例如，我不要大写字符，则为 [^A-Z]。但是，需要特别注意的是，如果以 grep -n [^A-Z] regular_express.txt 来搜寻，却发现该文件内的所有行都被列出，为什么？因为这个 [^A-Z] 是『非大写字符』的意思， 因为每一行均有非大写字符，例如第一行的 "Open Source" 就有 p,e,n,o.... 等等的小写字 grep -n 'oo[^t]' regular_express.txt
\{n,m\}	意义：连续 n 到 m 个的『前一个 RE 字符』 意义：若为 \{n\} 则是连续 n 个的前一个 RE 字符， 意义：若是 \{n,\} 则是连续 n 个以上的前一个 RE 字符！ 范例：在 g 与 g 之间有 2 个到 3 个的 o 存在的字符串，亦即 (goog)(gooog) grep -n 'go\{2,3\}g' regular_express.txt

sed 工具

sed 本身也是一个管道命令，可以分析 standard input 的，而且 sed 还可以将数据进行取代、删除、新增、撷取特定行等等的功能

$ sed [-nefr] [动作]

选项与参数：

-n  ：使用安静(silent)模式。在一般 sed 的用法中，所有来自 STDIN 的数据一般都会被列出到屏幕上。

      但如果加上 -n 参数后，则只有经过 sed 特殊处理的那一行(或者动作)才会被列出来。

-e  ：直接在指令行模式上进行sed 的动作编辑；

-f  ：直接将 sed 的动作写在一个文件内， -f filename 则可以执行 filename 内的 sed 动作；

-r  ：sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)

-i  ：直接修改读取的文件内容，而不是由屏幕输出。

 

动作说明：  [n1[,n2]]function

n1, n2 ：不见得会存在，一般代表『选择进行动作的行数』，举例来说，如果我的动作是需要在 10 到 20 行之间进行的，则『10,20[动作行为]』

 

function 有下面这些咚咚：

a   ：新增， a 的后面可以接字符串，而这些字符串会在新的一行出现(目前的下一行)

c   ：取代， c 的后面可以接字符串，这些字符串可以取代 n1,n2 之间的行

d   ：删除，因为是删除啊，所以 d 后面通常不接任何咚咚；

i   ：插入， i 的后面可以接字符串，而这些字符串会在新的一行出现(目前的上一行)；

p   ：打印，亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运作

s   ：取代，可以直接进行取代的工作，通常这个s的动作可以搭配正规表示法

• 以行为单位的新增/删除功能

将 /etc/passwd 的内容列出并且打印行号，同时，请将第 2~5 行删除！

$ nl /etc/passwd | sed '2,5d'

只要删除第 2 行，可以使用『 nl /etc/passwd | sed '2d' 』,要删除第 3 到最后一行，则是『 nl /etc/passwd | sed '3,$d' 』的啦，那个『 $ 』代表最后一行

在第二行后(亦即是加在第三行)加上『drink tea?』字样！

$ nl /etc/passwd | sed '2a drink tea'

 

在第二行后面加入两行字，例如『Drink tea or .....』与『drink beer?』

$ nl /etc/passwd | sed '2a Drink tea or ......\

> drink beer ?'

• 以行为单位的取代与显示功能

将第2-5行的内容取代成为『No 2-5 number』

$ nl /etc/passwd | sed '2,5c No 2-5 number'

 

仅列出 /etc/passwd 文件内的第 5-7 行

$ nl /etc/passwd | sed -n '5,7p'

• 部分数据的搜寻并取代的功能

sed 's/要被取代的字符串/新的字符串/g'

取IP地址：

$ /sbin/ifconfig eth0 | grep 'inet ' | sed 's/^.*inet //g' \

>   | sed 's/ *netmask.*$//g'

只要 MAN 存在的那几行数据，但是含有 # 在内的批注我不想要，而且空白行我也不要

$ cat /etc/man_db.conf | grep 'MAN'| sed 's/#.*$//g' | sed '/^$/d'

• 直接修改文件内容(危险动作)

将 regular_express.txt 内每一行结尾若为 . 则换成 !

$ sed -i 's/\.$/\!/g' regular_express.txt

 

直接在 regular_express.txt 最后一行加入『# This is a test』

[dmtsai@study ~]$ sed -i '$a # This is a test' regular_express.txt

延伸正规表示法

RE 字符	意义与范例
+	意义：重复『一个或一个以上』的前一个 RE 字符 范例：搜寻 (god) (good) (goood)... 等等的字符串。 那个 o+ 代表『一个以上的 o 』所以，下面的执行成果会将第 1, 9, 13 行列出来。 egrep -n 'go+d' regular_express.txt
?	意义：『零个或一个』的前一个 RE 字符 范例：搜寻 (gd) (god) 这两个字符串。 那个 o? 代表『空的或 1 个 o 』所以，上面的执行成果会将第 13, 14 行列出来。 有没有发现到，这两个案例( 'go+d' 与 'go?d' )的结果集合与 'go*d' 相同？ 想想看，这是为什么喔！ ^_^ egrep -n 'go?d' regular_express.txt
|	意义：用或( or )的方式找出数个字符串 范例：搜寻 gd 或 good 这两个字符串，注意，是『或』！ 所以，第 1,9,14 这三行都可以被打印出来喔！那如果还想要找出 dog 呢？ egrep -n 'gd|good' regular_express.txt egrep -n 'gd|good|dog' regular_express.txt
()	意义：找出『群组』字符串 范例：搜寻 (glad) 或 (good) 这两个字符串，因为 g 与 d 是重复的，所以， 我就可以将 la 与 oo 列于 ( ) 当中，并以 | 来分隔开来，就可以啦！ egrep -n 'g(la|oo)d' regular_express.txt
()+	意义：多个重复群组的判别 范例：将『AxyzxyzxyzxyzC』用 echo 叫出，然后再使用如下的方法搜寻一下！ echo 'AxyzxyzxyzxyzC' | egrep 'A(xyz)+C' 上面的例子意思是说，我要找开头是 A 结尾是 C ，中间有一个以上的 "xyz" 字符串的意思～

! 在正规表示法当中并不是特殊字符，要查出来文件中含有 ! 与 > 的字行

grep -n '[!>]' regular_express.txt

格式化打印： printf

printf可以将资料输出的结果格式化，而且支持一些特殊的字符

$ printf '打印格式' 实际内容

选项与参数：

关于格式方面的几个特殊样式：

       \a    警告声音输出

       \b    退格键(backspace)

       \f    清除屏幕 (form feed)

       \n    输出新的一行

       \r    Enter 按键

       \t    水平的 [tab] 按键

       \v    垂直的 [tab] 按键

       \xNN  NN 为两位数的数字，可以转换数字成为字符。

关于 C 程序语言内，常见的变数格式

       %ns   那个 n 是数字，s 代表 string ，亦即多少个字符；

       %ni   那个 n 是数字，i 代表 integer ，亦即多少整数字数；

       %N.nf 那个 n 与 N 都是数字，f 代表 floating (浮点)，如果有小数字数，假设我共要十个位数，但小数点有两位，即为%10.2f

 

以字符串、整数、小数点来显示：

[dmtsai@study ~]$ printf '%10s %5i %5i %5i %8.2f \n' $(cat printf.txt | grep -v Name)

    DmTsai    80    60    92    77.33

     VBird    75    55    80    70.00

       Ken    60    90    70    73.33

 

列出 16 进位数值 45 代表的字符

$ printf '\x45\n'

E

awk：好用的数据处理工具

awk 将一行当中分成数个『字段』来处理

$ awk '条件类型1{动作1} 条件类型2{动作2} ...' filename

awk 后面接两个单引号并加上大括号{}来设定想要对数据进行的处理动作。 awk可以处理后续接的文件，也可以读取来自前个指令的standard output。awk主要是处理『每一行的字段内的数据』，而默认的『字段的分隔符为 "空格键" 或 "[tab]键"』

在 awk 的括号内，每一行的每个字段都是有变量名称的，那就是 $1, $2... 等变量名称。$0 代表『一整行资料』的意思

awk 是『以行为一次处理的单位』，而『以字段为最小的处理单位』。

 

取出账号与登入者的 IP ，且账号与 IP 之间以 [tab] 隔开

$ last -n 5 | awk '{print $1 "\t" $3}'

dmtsai  192.168.1.100

dmtsai  192.168.1.100

dmtsai  192.168.1.100

 

awk 的内建变量

变量名称	代表意义
NF	每一行 ($0) 拥有的字段总数
NR	目前 awk 所处理的是『第几行』数据
FS	目前的分隔字符，默认是空格键

 

• 列出每一行的账号(就是 $1)；
• 列出目前处理的行数(就是 awk 内的 NR 变量)
• 并且说明，该行有多少字段(就是 awk 内的 NF 变量)

$ last -n 5| awk '{print $1 "\t lines: " NR "\t columns: " NF}'

dmtsai   lines: 1        columns: 10

dmtsai   lines: 2        columns: 10

dmtsai   lines: 3        columns: 10

dmtsai   lines: 4        columns: 10

dmtsai   lines: 5        columns: 9

# 注意，在 awk 内的 NR, NF 等变量要用大写，且不需要有$

• awk 的逻辑运算字符

运算单元	代表意义
>	大于
<	小于
>=	大于或等于
<=	小于或等于
==	等于
!=	不等于

注意的是那个『 == 』的符号：

• 逻辑运算上面亦即所谓的大于、小于、等于等判断式上面，习惯上是以『 == 』来表示；
• 如果是直接给予一个值，例如变量设定时，就直接使用 = 而已。

 

在 /etc/passwd 当中是以冒号 ":" 来作为字段的分隔，该文件中第一字段为账号，第三字段则是 UID。那假设我要查阅，第三栏小于 10 以下的数据，并且仅列出账号与第三栏：

$ cat /etc/passwd | awk '{FS=":"} $3 < 10 {print $1 "\t " $3}' root:x:0:0:root:/root:/bin/bash bin      1 daemon   2 $ cat /etc/passwd | awk 'BEGIN {FS=":"} $3 < 10 {print $1 "\t " $3}' root     0 bin      1 daemon   2

• 第一行只是说明，所以第一行不要进行加总 (NR==1 时处理)；
• 第二行以后就会有加总的情况出现 (NR>=2 以后处理)

$ cat pay.txt | \ > awk 'NR==1{printf "%10s %10s %10s %10s %10s\n",$1,$2,$3,$4,"Total" } > NR>=2{total = $2 + $3 + $4 > printf "%10s %10d %10d %10d %10.2f\n", $1, $2, $3, $4, total}'       Name        1st        2nd        3th      Total      VBird      23000      24000      25000   72000.00     DMTsai      21000      20000      23000   64000.00      Bird2      43000      42000      41000  126000.00

重要事项说明：

• awk 的指令间隔：所有 awk 的动作，亦即在{}内的动作，如果有需要多个指令辅助时，可利用分号『;』间隔，或者直接以 [Enter] 按键来隔开每个指令
• 逻辑运算当中，如果是『等于』的情况，则务必使用两个等号『==』
• 格式化输出时，在 printf 的格式设定当中，务必加上 \n ，才能进行分行
• 与 bash shell 的变量不同，在 awk 当中，变量可以直接使用，不需加上 $ 符号。
• awk 的动作内 {} 也是支持 if (条件)

文件比对工具

• diff

diff 就是用在比对两个文件之间的差异的，并且是以行为单位来比对的，一般是用在 ASCII 纯文本档的比对上。另外，diff 也可以比对整个目录下的差异

 

$ diff [-bBi] from-file to-file

选项与参数：

from-file ：一个文件名，作为原始比对文件名；

to-file   ：一个文件名，作为目的比对文件名；

注意，from-file 或 to-file 可以 - 取代，那个 - 代表『Standard input』之意。

 

-b  ：忽略一行当中，仅有多个空白的差异(例如 "about me" 与 "about     me" 视为相同

-B  ：忽略空白行的差异。

-i  ：忽略大小写的不同。

 

$ diff passwd.old passwd.new

4d3    <==左边第四行被删除(d)掉了，基准是右边的第三行

< adm:x:3:4:adm:/var/adm:/sbin/nologin  <==这边列出左边(<)文件被删除的那一行内容

6c5    <==左边文件的第六行被取代(c)成右边文件的第五行

< sync:x:5:0:sync:/sbin:/bin/sync  <==左边(<)文件第六行内容

---

> no six line                      <==右边(>)文件第五行内容

 

可以将两个目录比对一下：

$ diff /etc/rc0.d/ /etc/rc5.d/ Only in /etc/rc0.d/: K90network Only in /etc/rc5.d/: S10network

 

• cmp

cmp主要也是在比对两个文件，他主要利用『字节』单位去比对，也可以比对 binary file

 

$ cmp [-l] file1 file2

选项与参数：

-l  ：将所有的不同点的字节处都列出来。因为 cmp 默认仅会输出第一个发现的不同点。

 

$ cmp passwd.old passwd.new

passwd.old passwd.new differ: char 106, line 4

 

• patch

patch 这个指令与 diff 可是有密不可分的关系，就是『先比较旧版本的差异，并将差异文件制作成为补丁文件，再由补丁文件更新旧文件』

 

$ diff -Naur passwd.old passwd.new > passwd.patch

$ cat passwd.patch

--- passwd.old  2015-07-14 22:37:43.322535054 +0800  <==新旧文件的信息

+++ passwd.new  2015-07-14 22:38:03.010535054 +0800

@@ -1,9 +1,8 @@  <==新旧文件要修改数据的范围，旧文件在第 1 行开始的 9 行,新文件在第 1 行开始的 8 行

 root:x:0:0:root:/root:/bin/bash

 bin:x:1:1:bin:/bin:/sbin/nologin

 daemon:x:2:2:daemon:/sbin:/sbin/nologin

-adm:x:3:4:adm:/var/adm:/sbin/nologin     <==左侧文件删除

 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

-sync:x:5:0:sync:/sbin:/bin/sync          <==左侧文件删除

+no six line                              <==右侧新档加入

 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

 halt:x:7:0:halt:/sbin:/sbin/halt

 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

 

使用 diff 制作出来的比较文件通常使用扩展名为 .patch。基本上就是以行为单位，看看哪边有一样与不一样的，然后将不一样的地方取代掉，新文件看到 - 会删除，看到 + 会加入

 

$ patch -pN < patch_file    <==更新

$ patch -R -pN < patch_file <==还原

选项与参数：

-p  ：后面可以接『取消几层目录』的意思。

-R  ：代表还原，将新的文件还原成原来旧的版本。

 

参考文档：

《鸟哥的Linux私房菜基础篇第三版》