grep、awk、sed学习笔记

2011-03-29 14:39:15

一.grep

1. grep简介

grep (global search regular expression_r(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的扩展,支持更多的re元字符, fgrep就是fixed grep或fast grep,它们把所有的字母都看作单词,也就是说,正则表达式中的元字符表示回其自身的字面意义,不再特殊。linux使用GNU版本的grep。它功能更强,可以通过-G、-E、-F命令行选项来使用egrep和fgrep的功能。

grep的工作方式是这样的,它在一个或多个文件中搜索字符串模板。如果模板包括空格,则必须被引用,模板后的所有字符串被看作文件名。搜索的结果被送到屏幕,不影响原文件内容。

grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态,如果模板搜索成功,则返回0,如果搜索不成功,则返回1,如果搜索的文件不存在,则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。

2. grep正则表达式元字符集(基本集)

  • ^

  • 锚定行的开始 如:'^grep'匹配所有以grep开头的行。

  • $

  • 锚定行的结束 如:'grep$'匹配所有以grep结尾的行。

  • .

  • 匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。

  • *

  • 匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。

  • []

  • 匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。

  • [^]

  • 匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。

  • \(..\)

  • 标记匹配字符,如'\(love\)',love被标记为1。

  • \<

  • 锚定单词的开始,如:'\<grep'匹配包含以grep开头的单词的行。

  • \>

  • 锚定单词的结束,如'grep\>'匹配包含以grep结尾的单词的行。

  • x\{m\}

  • 重复字符x,m次,如:'0\{5\}'匹配包含5个o的行。

  • x\{m,\}

  • 重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行。

  • x\{m,n\}

  • 重复字符x,至少m次,不多于n次,如:'o\{5,10\}'匹配5--10个o的行。

  • \w

  • 匹配文字和数字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。

  • \W

  • \w的反置形式,匹配一个或多个非单词字符,如点号句号等。

  • \b

  • 单词锁定符,如: '\bgrep\b'只匹配grep。

3. 用于egrep和 grep -E的元字符扩展集

  • +

  • 匹配一个或多个先前的字符。如:'[a-z]+able',匹配一个或多个小写字母后跟able的串,如loveable,enable,disable等。

  • ?

  • 匹配零个或多个先前的字符。如:'gr?p'匹配gr后跟一个或没有字符,然后是p的行。

  • a|b|c

  • 匹配a或b或c。如:grep|sed匹配grep或sed

  • ()

  • 分组符号,如:love(able|rs)ov+匹配loveable或lovers,匹配一个或多个ov。

  • x{m},x{m,},x{m,n}

  • 作用同x\{m\},x\{m,\},x\{m,n\}

4. POSIX字符类

为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是A-Za-z0-9的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符类。

  • [:alnum:]

  • 文字数字字符

  • [:alpha:]

  • 文字字符

  • [:digit:]

  • 数字字符

  • [:graph:]

  • 非空字符(非空格、控制字符)

  • [:lower:]

  • 小写字符

  • [:cntrl:]

  • 控制字符

  • [:print:]

  • 非空字符(包括空格)

  • [:punct:]

  • 标点符号

  • [:space:]

  • 所有空白字符(新行,空格,制表符)

  • [:upper:]

  • 大写字符

  • [:xdigit:]

  • 十六进制数字(0-9,a-f,A-F)

5. Grep命令选项

  • -?

  • 同时显示匹配行上下的?行,如:grep -2 pattern filename同时显示匹配行的上下2行。

  • -b,--byte-offset

  • 打印匹配行前面打印该行所在的块号码。

  • -c,--count

  • 只打印匹配的行数,不显示匹配的内容。

  • -f File,--file=File

  • 从文件中提取模板。空文件中包含0个模板,所以什么都不匹配。

  • -h,--no-filename

  • 当搜索多个文件时,不显示匹配文件名前缀。

  • -i,--ignore-case

  • 忽略大小写差别。

  • -q,--quiet

  • 取消显示,只返回退出状态。0则表示找到了匹配的行。

  • -l,--files-with-matches

  • 打印匹配模板的文件清单。

  • -L,--files-without-match

  • 打印不匹配模板的文件清单。

  • -n,--line-number

  • 在匹配的行前面打印行号。

  • -s,--silent

  • 不显示关于不存在或者无法读取文件的错误信息。

  • -v,--revert-match

  • 反检索,只显示不匹配的行。

  • -w,--word-regexp

  • 如果被\<和\>引用,就把表达式做为一个单词搜索。

  • -V,--version

  • 显示软件版本信息。

6. 实例

要用好grep这个工具,其实就是要写好正则表达式,所以这里不对grep的所有功能进行实例讲解,只列几个例子,讲解一个正则表达式的写法。

  • $ ls -l | grep '^a'

  • 通过管道过滤ls -l输出的内容,只显示以a开头的行。

  • $ grep 'test' d*

  • 显示所有以d开头的文件中包含test的行。

  • $ grep 'test' aa bb cc

  • 显示在aa,bb,cc文件中匹配test的行。

  • $ grep '[a-z]\{5\}' aa

  • 显示所有包含每个字符串至少有5个连续小写字符的字符串的行。

  • $ grep 'w\(es\)t.*\1' aa

  • 如果west被匹配,则es就被存储到内存中,并标记为1,然后搜索任意个字符(.*),这些字符后面紧跟着另外一个es(\1),找到就显示该行。如果用egrep或grep -E,就不用"\"号进行转义,直接写成'w(es)t.*\1'就可以了。

grep,sed,awk命令练习

Steve Blenheim:238-923-7366:95 Latham Lane, Easton, PA 83755:11/12/56:20300
Betty Boop:245-836-8357:635 Cutesy Lane, Hollywood, CA 91464:6/23/23:14500
Igor Chevsky:385-375-8395:3567 Populus Place, Caldwell, NJ 23875:6/18/68:23400
Norma Corder:397-857-2735:74 Pine Street, Dearborn, MI 23874:3/28/45:245700
Jennifer Cowan:548-834-2348:583 Laurel Ave., Kingsville, TX 83745:10/1/35:58900
Jon DeLoach:408-253-3122:123 Park St., San Jose, CA 04086:7/25/53:85100
Karen Evich:284-758-2857:23 Edgecliff Place, Lincoln, NB 92086:7/25/53:85100
Karen Evich:284-758-2867:23 Edgecliff Place, Lincoln, NB 92743:11/3/35:58200
Karen Evich:284-758-2867:23 Edgecliff Place, Lincoln, NB 92743:11/3/35:58200
Fred Fardbarkle:674-843-1385:20 Parak Lane, DeLuth, MN 23850:4/12/23:780900
Fred Fardbarkle:674-843-1385:20 Parak Lane, DeLuth, MN 23850:4/12/23:780900
Lori Gortz:327-832-5728:3465 Mirlo Street, Peabody, MA 34756:10/2/65:35200
Paco Gutierrez:835-365-1284:454 Easy Street, Decatur, IL 75732:2/28/53:123500
Ephram Hardy:293-259-5395:235 CarltonLane, Joliet, IL 73858:8/12/20:56700
James Ikeda:834-938-8376:23445 Aster Ave., Allentown, NJ 83745:12/1/38:45000
Barbara Kertz:385-573-8326:832 Ponce Drive, Gary, IN 83756:12/1/46:268500
Lesley Kirstin:408-456-1234:4 Harvard Square, Boston, MA 02133:4/22/62:52600
William Kopf:846-836-2837:6937 Ware Road, Milton, PA 93756:9/21/46:43500
Sir Lancelot:837-835-8257:474 Camelot Boulevard, Bath, WY 28356:5/13/69:24500
Jesse Neal:408-233-8971:45 Rose Terrace, San Francisco, CA 92303:2/3/36:25000
Zippy Pinhead:834-823-8319:2356 Bizarro Ave., Farmount, IL 84357:1/1/67:89500
Arthur Putie:923-835-8745:23 Wimp Lane, Kensington, DL 38758:8/31/69:126000
Popeye Sailor:156-454-3322:945 Bluto Street, Anywhere, USA 29358:3/19/35:22350
Jose Santiago:385-898-8357:38 Fife Way, Abilene, TX 39673:1/5/58:95600
Tommy Savage:408-724-0140:1222 Oxbow Court, Sunnyvale, CA 94087:5/19/66:34200
Yukio Takeshida:387-827-1095:13 Uno Lane, Ashville, NC 23556:7/1/29:57000
Vinh Tranh:438-910-7449:8235 Maple Street, Wilmington, VM 29085:9/23/63:68900

grep命令练习

显示所有包含San的行  grep San datafile

显示所有以J开始的人名所在的行   grep ^J datafile

显示所有以700结尾的行 grep 700$ datafile

显示所有不包括834的行  grep -v 834 datafile

显示所有生日在December的行  grep [:::]12/ datafile

显示所有电话号码的区号为498的行  grep [:::]498- datafile

显示所有这样的行:它包含一个大写字母,后跟四个小写字母,一个冒号,一个空格,和一个大写字母

grep [A-Z][a-z]\{4,\} [:::] [[:space:]][A-Z] datafile

显示姓以K或k开头的行  grep -i ‘[a-z][[:space:]]k’ datafile

显示工资为六位数的行,并在前面加行号   grep -n ‘[0-9]\{6,\}’ datafile

显示包括Lincoln或lincoln的行,并且grep对大小写不敏感   grep [Ll]incoln datafile

sed练习

把Jon的名字改成Jonathan  sed -e ‘s/Jon/Jonathan/’ datafile

删除头三行    sed -e ’1,3d’ datafile

显示5-10行   sed -n ’5,10p’ datafile

删除包含Lane的行.   sed -e ‘/Lane/d’ datafile

显示所有生日在November-December之间的行   sed -n ‘/\:1[12]\//p’ datafile

把三个星号(***)添加到以Fred开头的行   sed -e ‘/^Fred/s/FredJOSEHASRETIRED/g’ datafile

把Popeye的生日改成11/14/46   sed -e ‘/Popeye/s/[1-9]*\/.*\/.*:/11\/14\/46:/’ datafile

删除所有空白行   sed -e ‘/^$/d’ datafile


cat test.txt

 

10.20.189.198

10.20.189.198

10.20.189.199

10.20.189.199

10.20.189.200

10.20.189.200

在第三行插入文本  $ sed -i -e '3i\zhangkai' test.txt

cat test.txt

 

10.20.189.198

10.20.189.198

zhangkai

10.20.189.199

10.20.189.199

10.20.189.200

10.20.189.200

在最后一行插入文本, $ sed -i -e '$a\zhangkai' test.txt

cat test.txt

 

10.20.189.198

10.20.189.198

zhangkai

10.20.189.199

10.20.189.199

10.20.189.200

10.20.189.200

zhangkai

在匹配行前插入,sed -i '/pattern/i插入字符串' filename

在匹配行后插入,sed -i '/pattern/a插入字符串' filename


awk命令大练习

文件:datafile
Mike Harrington:[510] 548-1278:250:100:175
Christian Dobbins:[408] 538-2358:155:90:201
Susan Dalsass:[206] 654-6279:250:60:50
Archie McNichol:[206] 548-1348:250:100:175
Jody Savage:[206] 548-1278:15:188:150
Guy Quigley:[916] 343-6410:250:100:175
Dan Savage:[406] 298-7744:450:300:275
Nancy McNeil:[206] 548-1278:250:80:75
John Goldenrod:[916] 348-4278:250:100:175
Chet Main:[510] 548-5258:50:95:135
Tom Savage:[408] 926-3456:250:168:200
Elizabeth Stachelin:[916] 440-1763:175:75:300
上面的数据库中包含名字,电话号码和过去三个月里的捐款

显示所有电话号码  awk -F: ‘{print $2}’ datafile

显示Dan的电话号码  awk  -F: ‘$1~/^Dan/{print $2}’ datafile

显示Susan的名字和电话号码    awk  -F: ‘$1~/^Susan/{print $1″:”$2}’ datafile

显示所有以D开头的姓    awk -F”[: ]” ‘$2~/^D/{print $2}’ datafile

显示所有以一个C或E开头的名    awk -F”[: ]” ‘$1~/^C|E/{print $1}’ datafile

显示所有只有四个字符的名   awk ‘length($1)==4{print $1}’ datafile

显示所有区号为916的人名   awk -F”[: ]” ‘$3~/\[916\]/{print $1,$2}’ datafile

显示Mike的捐款.显示每个值时都有以$开头.如$250$100$175

awk -F”[: ]” ‘$1~/Mike/{print “$”$5,”$”$6,”$”$7}’ datafile

显示姓,其后跟一个逗号和名,如Jody,Savage   awk  -F”[: ]” ‘{print $2″,”$1}’ datafile

我的awk例子:

 

[root@localhost tmp]# awk 'BEGIN {FS=":"} $1~/root/{print $1}' /etc/passwd #第一个字段匹配root

root

 

[root@localhost tmp]# awk -F: ' {if($3<$4) print $0}' /etc/passwd

adm:x:3:5:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin