LINUX sed grep awk之间比较整理

版权声明:本文为博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/zzhays/article/details/7875549

正则表达式基础

在最简单的情况下,一个正则表达式看上去就是一个普通的查找串。例如,正则表达式"testing"中没有包含任何元字符,,它可以匹配"testing"和"123testing"等字符串,但是不能匹配"Testing"。

要想真正的用好正则表达式,正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。

元字符
描述



.

匹配任何单个字符。例如正则表达式r.t匹配这些字符串:ratrutr t,但是不匹配root。 
$

匹配行结束符。例如正则表达式weasel$ 能够匹配字符串"He's a weasel"的末尾,但是不能匹配字符串"They are a bunch of weasels."。 
^

匹配一行的开始。例如正则表达式^When in能够匹配字符串"When in the course of human events"的开始,但是不能匹配"What and When in the"。
*

匹配0或多个正好在它之前的那个字符。例如正则表达式.*意味着能够匹配任意数量的任何字符。
\

这是引用府,用来将这里列出的这些元字符当作普通的字符来进行匹配。例如正则表达式\$被用来匹配美元符号,而不是行尾,类似的,正则表达式\.用来匹配点字符,而不是任何字符的通配符。
[ ] 
[c1-c2]
[^c1-c2]

匹配括号中的任何一个字符。例如正则表达式r[aou]t匹配ratrotrut,但是不匹配ret。可以在括号中使用连字符-来指定字符的区间,例如正则表达式[0-9]可以匹配任何数字字符;还可以制定多个区间,例如正则表达式[A-Za-z]可以匹配任何大小写字母。另一个重要的用法是“排除”,要想匹配除了指定区间之外的字符——也就是所谓的补集——在左边的括号和第一个字符之间使用^字符,例如正则表达式[^269A-Z] 将匹配除了2、6、9和所有大写字母之外的任何字符。
\< \>

匹配词(word)的开始(\<)和结束(\>)。例如正则表达式\<the能够匹配字符串"for the wise"中的"the",但是不能匹配字符串"otherwise"中的"the"。注意:这个元字符不是所有的软件都支持的。
\( \)

将 \( 和 \) 之间的表达式定义为“组”(group),并且将匹配这个表达式的字符保存到一个临时区域(一个正则表达式中最多可以保存9个),它们可以用\1\9 的符号来引用。
|

将两个匹配条件进行逻辑“或”(Or)运算。例如正则表达式(him|her) 匹配"it belongs to him"和"it belongs to her",但是不能匹配"it belongs to them."。注意:这个元字符不是所有的软件都支持的。
+

匹配1或多个正好在它之前的那个字符。例如正则表达式9+匹配9、99、999等。注意:这个元字符不是所有的软件都支持的。
?

匹配0或1个正好在它之前的那个字符。注意:这个元字符不是所有的软件都支持的。
\{i\}
\{i,j\}

匹配指定数目的字符,这些字符是在它之前的表达式定义的。例如正则表达式A[0-9]\{3\} 能够匹配字符"A"后面跟着正好3个数字字符的串,例如A123、A348等,但是不匹配A1234。而正则表达式[0-9]\{4,6\} 匹配连续的任意4个、5个或者6个数字字符。注意:这个元字符不是所有的软件都支持的。

正则表达式语法支持情况

命令或环境 . [ ] ^ $ \( \) \{ \} ? + | ( )
vi  X   X   X   X   X 




Visual C++  X   X   X   X   X 




awk  X   X   X   X 

 X   X   X   X 
sed  X   X   X   X   X   X 



Tcl  X   X   X   X   X 
 X   X   X   X 
ex  X   X   X   X   X   X 



grep  X   X   X   X   X   X 



egrep  X   X  X   X   X 
 X   X   X   X 
fgrep  X   X   X   X   X 




perl  X  X  X  X  X
 X  X  X  X
 
 
 
个人比较喜欢用awk,但是awk是不支持的 \(\) \{\} 的。不能强求。(可以用sed配合)
说明下 | 的用法,匹配多个正则式或者的关系。
awk '{if ($1 ~ /abc|123/)print $1}'
如果$1是abc或者是123就打印出来。
 

节选:http://blog.chinaunix.net/space.php?uid=9078996&do=blog&id=2010308



linux下写shell脚本基本上都会或多或少的处理一些琐碎的文本处理,这其中就会使用到不同的文本处理工具或命令,与windows下的batch脚本相比,linux的shell本身也是有一些字符处理的能力的,但是比较难记和使用,而且功能不够强大,使用起来不是很舒服。下面来介绍一下linux中常用的几个文本处理工具:

1 grep 命令 
grep [-acivn] "searchstr" 【filename】
参数:
-a 在二进制文件中以文本形式搜索
-c 计算并返回查到到的此数【c代表count】
-i 忽略大小写匹配【i代表ignore case】
-v 反向输出,仅输出与搜索字符不匹配的内容
-n 输出结果的时候同时输出在原文件内的行号
-e 使用扩展正则模式【e代表expand】

"searchstr"
可以是具体的字符串,也可以是正则表达式,当使用正则时可以配合-e参数

filename 
指定搜索的原内容,是可选项,不选时默认以当前目录为参数,还可以通过管道命令来传输

 ◎语法: grep [options] 
 PATTERN [FILE...] 
 grep用以在file内文中比对相对应的部分,或是当没有指定档案时, 
 由标准输入中去比对。 在预设的情况下,grep会将符合样式的那一行列出。

         此外,还有两个程式是grep的变化型,egrep及fgrep。          
         其中egrep就等同於grep -E ,fgrep等同於grep -F 。

 ◎参数
    1. -A NUM,--after-context=NUM 
               除了列出符合行之外,并且列出後NUM行。
             
         ex:   $ grep -A 1 panda file 
               (从file中搜寻有panda样式的行,并显示该行的後1行)
                                 
    2. -a或--text  
               grep原本是搜寻文字档,若拿二进位的档案作为搜寻的目标,
               则会显示如下的讯息: Binary file 二进位档名 matches 然後结束。
                  
               若加上-a参数则可将二进位档案视为文字档案搜寻,
               相当於--binary-files=text这个参数。
            
         ex:   (从二进位档案mv中去搜寻panda样式)
               (错误!!!)
               $ grep panda mv 
               Binary file mv matches  
               (这表示此档案有match之处,详见--binary-files=TYPE )
               $
               (正确!!!)
               $ grep -a panda mv 
       
    3. -B NUM,--before-context=NUM
               与 -A NUM 相对,但这此参数是显示除符合行之外
               并显示在它之前的NUM行。        
             
         ex:   (从file中搜寻有panda样式的行,并显示该行的前1行)
               $ grep -B 1 panda file 

    4. -C [NUM], -NUM, --context[=NUM]  
               列出符合行之外并列出上下各NUM行,预设值是2。
             
         ex:   (列出file中除包含panda样式的行外并列出其上下2行)
               (若要改变预设值,直接改变NUM即可)
               $ grep -C[NUM]  panda file 
             
    5. -b, --byte-offset
               列出样式之前的内文总共有多少byte ..
              
          ex:  $ grep -b  panda file  
       显示结果类似於:
         0:panda
        66:pandahuang
       123:panda03
           
    6. --binary-files=TYPE
               此参数TYPE预设为binary(二进位),若以普通方式搜寻,只有2种结果:
                 1.若有符合的地方:显示Binary file 二进位档名 matches
                 2.若没有符合的地方:什麽都没有显示。
                   
               若TYPE为without-match,遇到此参数,
               grep会认为此二进位档案没有包含任何搜寻样式,与-I 参数相同。
                   
               若TPYE为text, grep会将此二进位档视为text档案,与-a 参数相同。
        
     Warning: --binary-files=text 若输出为终端机,可能会产生一些不必要的输出。
              
    7. -c, --count
       不显示符合样式行,只显示符合的总行数。
       若再加上-v,--invert-match,参数显示不符合的总行数。

    8. -d ACTION, --directories=ACTION
               若输入的档案是一个资料夹,使用ACTION去处理这个资料夹。
       预设ACTION是read(读取),也就是说此资料夹会被视为一般的档案;
       若ACTION是skip(略过),资料夹会被grep略过:
       若ACTION是recurse(递),grep会去读取资料夹下所有的档案,
       此相当於-r 参数。

    9.  -E, --extended-regexp
       采用规则表示式去解释样式。
      
   10.  -e PATTERN, --regexp=PATTERN
       把样式做为一个partern,通常用在避免partern用-开始。  

   11.  -f FILE, --file=FILE
       事先将要搜寻的样式写入到一个档案,一行一个样式。
       然後采用档案搜寻。
       空的档案表示没有要搜寻的样式,因此也就不会有任何符合。
       
   ex: (newfile为搜寻样式档)
       $grep -f newfile file    

   12.  -G, --basic-regexp
       将样式视为基本的规则表示式解释。(此为预设)

   13.  -H, --with-filename
       在每个符合样式行前加上符合的档案名称,若有路径会显示路径。
       
   ex: (在file与testfile中搜寻panda样式)   
       $grep -H panda file ./testfile
                file:panda
                ./testfile:panda
                $
     
   14.  -h, --no-filename  
               与-H参数相类似,但在输出时不显示路径。

   15.  --help 
               产生简短的help讯息。

   16.  -I
               grep会强制认为此二进位档案没有包含任何搜寻样式,
               与--binary-files=without-match参数相同。
                   
           ex:  $ grep -I  panda mv

   17.  -i, --ignore-case       
               忽略大小写,包含要搜寻的样式及被搜寻的档案。
               
           ex:  $ grep -i panda mv
                
   18.  -L, --files-without-match 
               不显示平常一般的输出结果,反而显
示出没有符合的档案名称。

   19.  -l, --files-with-matches               
               不显示平常一般的输出结果,只显示符合的档案名称。

   20.  --mmap               
               如果可能,使用mmap系统呼叫去读取输入,而不是预设的read系统呼叫。 
               在某些状况,--mmap 能产生较好的效能。 然而,--mmap 
               如果运作中档案缩短,或I/O 错误发生时,
               可能造成未定义的行为(包含core dump),。
               
   21.  -n, --line-number
               在显示行前,标上行号。
               
            ex:  $ grep -n  panda file  
                显示结果相似於下:
                行号:符合行的内容

   22.  -q, --quiet, --silent 
               不显示任何的一般输出。请参阅-s或--no-messages

   23.  -r, --recursive
       递地,读取每个资料夹下的所有档案,此相当於 -d recsuse 参数。

   24.  -s, --no-messages
       不显示关於不存在或无法读取的错误讯息。
     
 小: 不像GNU grep,传统的grep不符合POSIX.2协定,
       因为缺乏-q参数,且他的-s 参数表现像GNU grep的 -q 参数。
       Shell Script倾向将传统的grep移植,避开-q及-s参数,
       且将输出限制到/dev/null。
    
POSIX: 定义UNIX及UNIX-like系统需要提供的功能。              
    
   25.  -V, --version
  显示出grep的版本号到标准错误。
  当您在回报有关grep的bugs时,grep版本号是必须要包含在内的。

   26.  -v, --invert-match
  显示除搜寻样式行之外的全部。
                   
   27.  -w, --word-regexp
          将搜寻样式视为一个字去搜寻,完全符合该"字"的行才会被列出。

   28.  -x, --line-regexp


http://hi.baidu.com/yuanzelin8/blog/item/b918010627c78665020881e6.html
linux安全网
2 sed 工具[该工具用于行间的内容操作,如增删改,查找替换]
sed [-nefr] [操作行为] filename
参数:
-n  安静模式,仅显示被处理的行【n代表silent】
-e  在命令行上进行sed操作编辑【e代表edit】
-f   将sed命令写入一个文件内,-f filename 则执行该文件下的sed命令
-r   设置支持扩展的正则表达式

操作行为:
格式1:[n1[,n2]动作]
n1,n2代表操作的范围的起始和终了的行数值,都是可选的。
格式2:/pattern/ 动作
pattern 是字符内容,然后sed会匹配包含该内容的行,可以使用正则匹配

动作的内容有:
a  当前行的下一行新增一行内容【a代表append】
c  替换操作范围内的内容【c代表change】
d  删除操作范围内的内容【d代表delete】 
i   当前行的上一行插入一行内容【i代表insert】
p  打印某行行的内容【p代表print】 sed '3p' 打印
s  搜索及替换所搜索的内容,可以使用正则【s代表search】,使用方式类似于vi中的替换句法
   格式:s/search/replace/flag
   flag: 为数字时代表对第几次匹配的项操作
   为g是代表全局范围内适用,global
   为p时表示应打印替换后的内容
   为w file时表示替换结果写入到指定文件内,而不改变原文件内容
y  转换命令,将指定的字符换为期望的字符,是但字符处理和转换。如sed '2,4y/1234/abcd/' 
    所有1都转换成a,2->b,3->c, 4->d。若指定了重复的转换则以第一次指定的为准。比如1指定了2个转换符,则第一次指定     的生效
w filename 将选项的内容写入到指定文件中。如:sed '2,4w test.txt' inputfile 将inputfile中的2-4行的内容写入到test文件里
r filename 将从filename文件中读取内容写入到指定的行中。如:sed '2r test.txt' inputfile 是将test文件中的内容读出来写入到inptufile文件的第二行后面,即插入到第三行前面。等价于cat test.txt | sed '2a' inputfile

此外在对操作对象需要进行多种操作行为时可以使用组合命令:
如:
sed '2{s/1234/abcd/g s/abcd/1234/g}'

举例:
last | sed '2,5d'   将删除第二和第五行之间的内容
last | sed '1,20s/^$/test/g' 全局范围内搜索空行并替换为test字符   

3 awk 工具【该工具用于处理有字段规则的行内内容,并支持格式化输出】
awk [options] '条件类型1{语句1; 语句2} 条件类型2{语句1;语句2}....' filename

options"
-F fs  指定FS变量的初始值
-f  filename   指定读取程序的文件【即存放awk脚本操作的文件】
-v var=value  定义awk的临时变量及值,而后可以在awk中使用变量
-mf N  指定最大的字段数【max field】
-mr N  指定最大的记录数【max record】
-W keyword  指定兼容模式

内置变量:
NF 当前行的字段总数 [number of field]
NR 当前为止已处理的行数,即当前行号 [number of row]
$0,$1,....$n   $0代表当前行的内容,$1代表当前行被分割后的第一个字段的内容
FS  当前的字段分割符。默认为空格 [file splitter]
RS  当前的行分割符。默认为回车
FIELDWIDTHS  定义数字字段显示的宽度
OFS  输出字段分割符,默认空格
ORS  输出行分割符,默认回车

条件比较操作符:
>
<
>=
<=
==
!=
用于条件类型的的条件比较运算,通常是用行内变量的比较结果来判断是否执行相应的动作
如:
NF==10
$1>3

条件选项的正则运用:
条件选项可以是任何的表达式,但主要还是利用awk自身的变量值进行判断,当条件为空时默认为无条件执行动作,有条件但为假时则不执行其后的动作;此外条件还可以是正则匹配表达时
如:awk '/^a/ {print $1}'   ##当前行匹配以a开头成功时则执行后面的打印 
上面正则匹配的范围是整行的内容,如果只想匹配指定字段的内容,则可以这样使用:
awk '$n ~ /^1/ {print $1}'    ##通过~符号规定了正则的匹配操作范围【这里是字段n】,~叫做匹配操作符               

动作内容:
内容必须放{}大扩弧中,其内就是具体的执行的语句,可以是一句,多句,使用;逗号分割
如:
{print $1 "\t" $2}                   ##普通输出
{printf "%s \t %s", $1,$2}      ##格式化输出

此外awk的语句还可以使用结构化命令,如分支,循环等
如:
if (condition) 
{
  stat1;
}
else if (condition)
  stat2;
else
{
stat3;
}

while (condition)
  stat1;
  stat2;
}

for (i=1;i<3;i++)
{
  stat1;
  stat2;

注:
awk的执行是按行号依次循环内容的,如果想在所有行执行对awk进行设置并生效的话,那么就需要使用关键字BEGIN
在所有行处理完之后还要做后期处理操作,则可以使用END关键字
如:
awk 'BEGIN { FS=“:”} $1 > 3 {print $1} END {print "END"}'       ##在执行第一行之前设置分割符为:冒号。

节选:http://blog.csdn.net/beyondlpf/article/details/6925897
展开阅读全文

没有更多推荐了,返回首页