shell中的正则表达式、sed、awk

 

本文主要说一些正则的基本语法,并且结合linux的各种小工具(egrep、sed、awk)列举一些使用实例。

 

一、基本语法

正则的基本语法就大概是下面这些,但是正则远不止这些,甚至可以写一本书,当然了,我们这里只列举一些简单的

用法,这些已经可以解决大部分实际问题了。


1、字符类

字符含义举例
. 匹配任意一个字符
abc. 可 以匹配abcdabc9
[] 匹配括号中的任意一个字符
[abc]d 可以匹配adbdcd
- 用在[]中,表示字符范围
[0-9a-fA-F] 可以匹配一位十六进制数字
^ 如果位于[]的开头,则匹配除去括号中字符之外的一切字符
[^xy] 匹配除xy 之外的任一字符,因此[^xy]1 可以 匹配a1b1 但不匹配x1y1
[[:xxx:]] grep 工 具预定义的一些命名字符类[[:alpha:]] 匹配一个字母,[[:digit:]] 匹配一个数字


2、数量限定符

字符含义举例
? 紧跟在它前面的单元匹配零次或一次
[0-9]?/.[0-9] 匹配0.02.3.5 等,由于. 在正则表达式中是一个特殊字符,所以需要用/ 转 义一下,取字面值
+ 紧跟在它前面的单元匹配一次或多次
[a-zA-Z0-9.-_]+@[a-zA-Z0-9.-_]+/.[a-zA-Z0-9.-_]匹配email
* 紧跟在它前面的单元匹配零次或多次
[0-9][0-9]* 匹配至少一位数字,等价于[0-9]+[a-zA-Z_]+[a-zA-Z_0-9]* 匹 配C语言的标识符
{N} 紧跟在它前 面的单元应精确匹配N次 [1-9][0-9]{2} 匹 配从100999 的整数
{N,} 紧跟在它前面的单元至少要匹配n次
[1-9][0-9]{2,} 匹配三位以上(含三位)的整数
{,M} 紧跟在它前面的单元至多匹配m次
[0-9]{,1}和[0-9]?意义一样,
{N,M} 紧跟在它前面的单元至少匹配n次,至多匹配m次
[0-9]{1,3}/.[0-9]{1,3}/.[0-9]{1,3}/.[0-9]{1,3}/.用于匹配ip地址


3、位置限定符

字符含义举例
^ 匹配行首的位置^content匹配以content开头的行
$ 匹配行末的位置:$匹配以:结尾的行,^$匹配空行
/< 匹配单词开头的位 置/<th 匹配... this ,但不匹配ethernettenth
/> 匹 配单词结尾的位置p/> 匹配leap ... ,但不匹配parentsleepy
/b 匹 配单词开头或结尾的位置ap/b匹配leap,/ble匹配leap,/bat/b 匹配... at ... ,但不匹配catatexitbatch
/B 匹配非单词开头和结尾的位置/Bat/B 匹配battery ,但不匹配... attendhat ...

 

4、其他特殊字符

字符含义举例
/ 转义字符,普通字符转义为特殊字符,特殊字符转义为普通字符普 通字符< 写成/< 表 示单词开头的位置,特殊字符. 写成/. 以 及/ 写成// 就当作普通字符来 匹配
() 将正则表达式的一部分括起 来组成一个单元,可以对整个单元使用数量限定符([0-9]{1,3}/.){3}[0-9]{1,3} 匹 配IP地址
| 连接两个表达式,表示或的关系
n[o-either]可以匹配no或neither

 

 

二、小工具


1、grep/egrep

grep 是一种查找过滤工具,正则表达式在grep 中 用来查找符合模式的字符串。

egrep相当于grep -E,表示采用Extended正则表达式语法。grep的正则表达式有Basic和 Extended两种规范

上述列举的正则表达式语法都适用于egrep。而grep的语法则相对简陋一些,?+(){}|都只是一些匹配字符了。

 

2、sed

sed意为流编辑器(Stream Editor),在Shell脚本和Makefile中作为过滤器使用非常普遍,也就是把前一个程序的输出引入sed的输入,经过一系列编辑命令转换为另一种格式输出。sed和vi都源于早期UNIX的ed工具,所以很多sed命令和vi的末行命令是相同的。

 

在正常情况下,sed将待处理的行读入模式空间,脚本中的命令就一条接着一条的对该行进行处理,直到脚本执行完毕,然后该行被输出,模式空间清空;然后重复刚才的动作,文件中的新的一行被读入,直到文件处理完备。

 

看了很多写sed的就属鸟哥写的最好了,摘录一下:







不过鸟哥的不是很全,特补充如下:


  • n和p一起使用:$ sed -n 's/^test/mytest/p' 
    
    example
    (-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印

    它。

  • 引用:$ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost,变成192.168.0.1localhost。
  • 引用:$ sed -n 's//(love/)able//1rs/p' example-----love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
  • 分隔符:$ sed 's#10#100#g' example-----不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替 换成100。
  • 用正则表示范围:$ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。
  • 正则和数字混用表示范围:$ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
  • $ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行,每行的末尾用字符串sed test替换。
  • 一次执行多条命令:$ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
  • 并不常用的一种用法:$ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。
  • h命令和G命令: $ sed -e '/test/h' -e '$G‘ example-----在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
  • 特殊字符"^"和"$"匹配的是模式空间的最开始与最末尾
  • n: 将模式空间中的内容输出,然后把下一行读入模式空间
  • sed '/test/{a;b;c}' 这个用法可以针对匹配test的行执行a、b、c这三天命令。
补充几个除d、a、i、s、c、p之外不常用的命令:


  • h:拷贝模板块的内容到内存中的缓冲区。
  • H:追加模板块的内容到内存中的缓冲区
  • g:获得内存缓冲区的内容,并替代当前模板块中的文本。
  • G:获得内存缓冲区的内容,并追加到当前模板块文本的后面。sed G可以在每一行后面添加一个空白行,这是因为当前内存缓冲区为空,每次都把缓冲区的空内容添加到了每一行后面。
  • sed '/^$/d;G':用分号分隔多条命令,每一条命令都会作用在当前行上。

更多用法可以参考:

http://sed.sourceforge.net/sed1line_zh-CN.html

http://blog.chinaunix.net/u2/89923/showart_2206200.html

http://www.tsnc.edu.cn/default/tsnc_wgrj/doc/sed.htm

 

3、awk

待续。。。。。。。


 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值