Table of Contents
1. Sed简介
2. 定址
3. Sed命令
4. 选项
5. 元字符集
6. 实例
7. 脚本
8. 小技巧
1. Sed简介
sed是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。
2. 定址
可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。
3. Sed命令
调用sed命令有两种形式:
•sed [options] 'command' file(s)
•sed [options] -f scriptfile file(s)
a/
在当前行后面加入一行文本。
b lable
分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。
c/
用新的文本改变本行的文本。
d
从模板块(Pattern space)位置删除行。
D
删除模板块的第一行。
i/
在当前行上面插入文本。
h
拷贝模板块的内容到内存中的缓冲区。
H
追加模板块的内容到内存中的缓冲区
g
获得内存缓冲区的内容,并替代当前模板块中的文本。
G
获得内存缓冲区的内容,并追加到当前模板块文本的后面。
l
列表不能打印字符的清单。
n
读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。
N
追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。
p
打印模板块的行。
P(大写)
打印模板块的第一行。
q
退出Sed。
r file
从file中读行。
t label
if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
T label
错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
w file
写并追加模板块到file末尾。
W file
写并追加模板块的第一行到file末尾。
!
表示后面的命令对所有没有被选定的行发生作用。
s/re/string
用string替换正则表达式re。
=
打印当前行号码。
#
把注释扩展到下一个换行符以前。
以下的是替换标记
•g表示行内全面替换。
•p表示打印行。
•w表示把行写入一个文件。
•x表示互换模板块中的文本和缓冲区中的文本。
•y表示把一个字符翻译为另外的字符(但是不用于正则表达式)
4. 选项
-e command, --expression=command
允许多台编辑。
-h, --help
打印帮助,并显示bug列表的地址。
-n, --quiet, --silent
取消默认输出。
-f, --filer=script-file
引导sed脚本文件名。
-V, --version
打印版本和版权信息。
5. 元字符集
^
锚定行的开始 如:/^sed/匹配所有以sed开头的行。
$
锚定行的结束 如:/sed$/匹配所有以sed结尾的行。
.
匹配一个非换行符的字符 如:/s.d/匹配s后接一个任意字符,然后是d。
*
匹配零或多个字符 如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。
[]
匹配一个指定范围内的字符,如/[Ss]ed/匹配sed和Sed。
[^]
匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。
/(../)
保存匹配的字符,如s//(love/)able//1rs,loveable被替换成lovers。
&
保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**。
/<
锚定单词的开始,如://<love/匹配包含以love开头的单词的行。
/>
锚定单词的结束,如/love/>/匹配包含以love结尾的单词的行。
x/{m/}
重复字符x,m次,如:/0/{5/}/匹配包含5个o的行。
x/{m,/}
重复字符x,至少m次,如:/o/{5,/}/匹配至少有5个o的行。
x/{m,n/}
重复字符x,至少m次,不多于n次,如:/o/{5,10/}/匹配5--10个o的行。
6. 实例
删除:d命令
•$ sed '2d' example-----删除example文件的第二行。
•$ sed '2,$d' example-----删除example文件的第二行到末尾所有行。
•$ sed '$d' example-----删除example文件的最后一行。
•$ sed '/test/'d example-----删除example文件所有包含test的行。
替换:s命令
•$ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。
•$ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。
•$ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加localhost,变成192.168.0.1localhost。
•$ sed -n 's//(love/)able//1rs/p' example-----love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
•$ sed 's#10#100#g' example-----不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。
选定行的范围:逗号
•$ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。
•$ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
•$ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行,每行的末尾用字符串sed test替换。
多点编辑:e命令
•$ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
•$ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。
从文件读入:r命令
•$ sed '/test/r file' example-----file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。
写入文件:w命令
•$ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。
追加命令:a命令
•$ sed '/^test/a//--->this is a example' example<-----'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。
插入:i命令
$ sed '/test/i//
new line
-------------------------' example
如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。
下一个:n命令
•$ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。
变形:y命令
•$ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。
退出:q命令
•$ sed '10q' example-----打印完第10行后,退出sed。
保持和获取:h命令和G命令
•$ sed -e '/test/h' -e '$G example-----在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
保持和互换:h命令和x命令
•$ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。
7. 脚本
Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。
8. 小技巧
•在sed的命令行中引用shell变量时要使用双引号,而不是通常所用的单引号。下面是一个根据name变量的内容来删除named.conf文件中zone段的脚本:
name='zone/ "localhost"'
sed "/$name/,/};/d" named.conf
1.Sed是一个非交互性文本流编辑器。sed与awk类似,执行时可以使用命令行;可以将
sed命令写入一个文件,然后调用sed;也可以将sed命令插入一个脚本文件并使脚本文件可执行。
一般情况下sed并不与初始化文件打交道,他操作的只是一个拷贝,如果要修改原文件那么就要用-i选项。
2.sed的工作过程:sed逐行处理输入文件,首先从输入文件读入一行到模式空间
也就是临时缓冲区,在该行上执行所有命令,将结果发送到指定的区域(stdout或指定的文件中)。当我们执行的是
一个sed脚本文件,那么我们就从输入文件中读入一行数据到模式空间,执行脚本文件中的所有命令,然后在继续读取输入
文件的下一行,并开始用sed脚本文件中的命令去处理文本。
3.sed定位文本的方法有两种:一种是行号,一种是正则表达式。
4.命令与选项:sed命令告诉sed如何处理由地址指定的各输入行。如果没有指定地址,sed就会处理所有的输入行。
sed的命令包括:
a/ :在当前行之后添加。追加。
c/ :用新文本替换当前行的文本。
d :删除当前行
i/ :在当前行之前插入文本
p :打印行
g :在行内进行全局替换
w :将行写入文件
s :用一个字符串替换另一个
命令还有很多,这里只列出了比较常用的几个。
sed的选项:
-e :允许多项编辑
-f :指定sed脚本文件名
-n :取消默认的输出
4.当没有出现语法错误时sed返回0。出现语法错误时返回非零。
5.
采用下面这个datafiel文件作为示例
along 04075021 1 90
xiaolong 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinlong 0408098 2 jinming 37
1)p命令
along@along-laptop:~/code/shell/sed$ sed '/along/p' datafile
along 04075021 1 90
along 04075021 1 90
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
这是将所有找到的匹配行都打印两遍
along@along-laptop:~/code/shell/sed$ sed -n '/xiao/p' datafile
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
当加上了-n选项时,只打印匹配行。
-n要和 p 配合使用
2)d命令(删除)从模式空间中删除并读入下一行。
sed ‘3d’ datafile:删除第三行
along@along-laptop:~/code/shell/sed$ sed '3d' datafile
along 04075021 1 90
xiaoming 04075022 1 92
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
sed ‘3,$d’ datafile(删除第三行到最后一行)
sed '/along/d' datafile(包含模式along的行都被删除,其余行打印)
sed -n '/along/d' datafile(删除包含模式along的行,此时显示内容为空)
3)s命令(替换)
along@along-laptop:~/code/shell/sed$ sed 's/ming/long/g' datafile
along 04075021 1 90
xiaolong 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinlong 0408098 2 jinlong 37
用long替换所有的ming。如果没有g那么将只替换每一行第一个ming。比如(注意观察最后一行):
along@along-laptop:~/code/shell/sed$ sed 's/ming/long/' datafile
along 04075021 1 90
xiaolong 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinlong 0408098 2 jinming 37
sed 's/[9]/&.5/g' datafile (在所有的9后边都加上一个.5)
比如:
along@along-laptop:~/code/shell/sed$ sed 's/9/&.5/g' datafile
along 04075021 1 9.50
xiaoming 04075022 1 9.52
xiaoguang 04075032 2 89.5
chang 04075036 2 79.5
hang 0407509.58 3 70
jinming 040809.58 2 jinming 37
当符号“&”和s一起用的时候,表示在找到的匹配串后边加上相应的串。
紧跟在s命令后边的字符就是查找串和替换串之间的分隔符。分隔符默认是正斜杠,但是可以改变。无论什么字符
只要紧跟这s就成了新的分隔符。
比如:
along@along-laptop:~/code/shell/sed$ sed -n 's#ming#along#gp' datafile
xiaoalong 04075022 1 92
jinalong 0408098 2 jinalong 37
4)定址
along@along-laptop:~/code/shell/sed$ sed -n '1,/ming/p' datafile
along 04075021 1 90
xiaoming 04075022 1 92
从第一行开始打印直到第一次出现ming
along@along-laptop:~/code/shell/sed$ sed -n '2,2p' datafile
xiaoming 04075022 1 92
只打印第二行的内容。
5)-e多重编辑选项。用于sed执行多个编辑命令时将前一个的编辑结果应用到后一个编辑命令上。
along@along-laptop:~/code/shell/sed$ sed -n -e 's/ming/long/' -e 's/long/mn/gp' datafile
amn 04075021 1 90
xiaomn 04075022 1 92
jinmn 0408098 2 jinming 37
这个例子没有任何作用,只是为了说明问题。
首先第一行原来是along,当执行第一条编辑命令时发现无法匹配,于是继续执行第二条编辑命令将long替换为mn。
第二行就不用再说了。
第三行,首先执行第一条编辑命令,发现没有 g 命令,于是就只是将第一个ming替换为long;然后执行第二条编辑命令
此时虽然有 g 这个命令,但是已经于事无补,因为当前行此时只有一个long。所以结果也就理所当然是这样了jinmn 0408098 2 jinming 37。
6)r读文件。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置。
比如:
along@along-laptop:~/code/shell/sed$ cat file
---------Read File------------
along@along-laptop:~/code/shell/sed$ sed '/along/r file' datafile
along 04075021 1 90
---------Read File------------
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
7)w 写文件命令。
sed使用该命令将当前文件中的匹配行写入另外一个文件中。
sed -n ‘/along/w newfile’ datafile
将datafile中包含along的行全部写如newfile文件中。
8)a 追加命令。在当前行之后添加新文本。
比如:
along@along-laptop:~/code/shell/sed$ sed '/along/a/----student----' datafile
along 04075021 1 90
----student----
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
9)i 插入命令。在当前行之前插入新文本。
比如:
along@along-laptop:~/code/shell/sed$ sed '/along/i/----student----' datafile
----student----
along 04075021 1 90
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
10)c 修改命令。sed使用该命令将当前行修改成新文本。
比如:
along@along-laptop:~/code/shell/sed$ sed '/ming/c/----student----' datafile
along 04075021 1 90
----student----
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
----student----
11)n 命令。sed使用该命令获取输入文件的下一行进行处理。
比如:
along@along-laptop:~/code/shell/sed$ cat datafile
along 04075021 1 90
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
along@along-laptop:~/code/shell/sed$ sed '/along/{n;s/ming/long/;}' datafile
along 04075021 1 90
xiaolong 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
将包含along的文本的下一行中的ming改为long。
12)y 命令。转换。字符按照一对一的方式从左到有进行转换。
sed '1,3y/abc/ABC/' datafile
13)q 命令。退出。
sed ‘5q’ datafile
显示完第5行时退出。
14)暂存和取用:h和g命令。
h:将模式空间的内容复制到暂存缓冲区,即一个特殊的临时缓冲区。暂存缓冲区的当前内容被清除。
H: 将换行符和模式空间的内容追加到暂存缓冲区中,即使暂存缓冲区为空,这个命令也追加换行符。当暂存缓冲区为空时拷贝到暂存缓冲区的内容前边要加上空行,
当暂存缓冲区不为空时,H这个命令就又不再加空行了。
g:将暂存缓冲区中的内容复制到模式空间中,并将当前的内容清除。
G:将暂存缓冲区内容追加到模式空间。如果暂存缓冲区为空,则将换行符添加到模式空间。
along@along-laptop:~/code/shell/sed$ cat datafile
along 04075021 1 90
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
1》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{h;d;} ' -e '$g' datafile
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
xiaoguang 04075032 2 89
首先找到包含xiao的行,以覆盖的方式将其复制到暂存缓冲区,然后删除当前行,最后以覆盖的方式取出。
2》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{H;d;} ' -e '$g' datafile
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
找到包含xiao的行,以追加的方式将其复制到暂存缓冲区,然后删除当前行,最后以覆盖的方式取出加在文件末尾。
3》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{H;d;}' -e '${g;s/.//;}' datafile
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
比较3和2的不同。
4》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{h;d;}' -e '$G' datafile
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
xiaoguang 04075032 2 89
找到包含xiao的行,以覆盖的方式将其复制到暂存缓冲区,然后删除当前行,最后以追加的方式取出。
5》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{H;d;}' -e '$G' datafile
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
找到包含xiao的行,以追加的方式将其复制到暂存缓冲区,然后删除当前行,最后以追加的方式取出。
6》along@along-laptop:~/code/shell/sed$ sed -e '/xiao/{H;d}' -e '$G' datafile|sed -e '/^$/d'
along 04075021 1 90
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
比较5和6的区别。6是清除了空行。
7》现在有文件file:
first line
second line
third line
sed -e '/third/{h;d;}' -e '/first/{G;}'
第1行,第一条命令不匹配,输出第一行;接下来执行第二条命令匹配,所以从暂存空间中取出内容,此时为空所以输出空行。
第二行,第一条不匹配,输出第二行,接下来第二条不匹配
第3行,第一条匹配所以直接执行第一条命令,不输出。接下来执行第二条命令。
故结果:
along@along-laptop:~/code/shell/sed$ sed -e '/third/{h;d;}' -e '/first/{G;}' file
first line
second line
sed -e '/third/{h;d;}' -e '/second/{G;}' file
第一行:第一条命令不匹配,输出第一行;接下来执行第二条命令,不匹配。
第二行:第一条命令不匹配,输出第二行;接下来执行第二条命令,匹配所以从暂存空间中取出内容,此时为空,所以输出空行。
第三行:第一条匹配,不输出,直接删除,并存入暂存空间;第二条不匹配。
故结果:(此时second下面有一个空行)
along@along-laptop:~/code/shell/sed$ sed -e '/third/{h;d;}' -e '/second/{G;}' file
first line
second line
sed -e '/third/{h;d;}' -e '/third/{G;}' file
第一行:第一条命令不匹配,输出第一行;接下来执行第二条命令,不匹配。
第二行:第一条命令不匹配,输出第二行;接下来执行第二条命令,不匹配。
第三行:第一条匹配,不输出,存入暂存空间,并直接从模式空间删除;第二条此时模式空间没有了内容所以也就无法匹配了。
故结果:
along@along-laptop:~/code/shell/sed$ sed -e '/third/{h;d;}' -e '/third/{G;}' file
first line
second line
15)删除空行
现在有文件datafile
along@along-laptop:~/code/shell/sed$ cat datafile
along 04075021 1 90
xiaoming 04075022 1 92
xiaoguang 04075032 2 89
chang 04075036 2 79
hang 04075098 3 70
jinming 0408098 2 jinming 37
现在想要删除中间的两个空行和每行前边的空格。其中第一个空行是用回车符造成的。第二个使用空格造成的。
如果使用sed '/^$/d' datafile 那么只能删除第一个空行。要想删除两个空行同时删除空格就要这样写:
sed -e '/^[ ]*$/d' -e 's/^[ ]*//' datafile
16)我有文件gr:
90
ad
a9
#8
执行下面这个sed语句:
along@along-laptop:~/code/shell/sed$ sed -n '/^[^0-9a-z]*[0-9]/{1,/}/p' gr
90
#8
这里说明 90 和我的正则表达式 ^[^0-9a-z]*[0-9]/{1,/} 是匹配的。
^[^0-9a-z]*[0-9]/{1,/} 匹配的是:非数字和小写字母出现0次或多次,中间是任意字符,然后再加上1-n个数字组成的字符串。
而 90这个字符串行首是9 符合行首为 0个非数字和小写字母开头,因此就匹配了。
注意:*是匹配前面的0次或多次。
*是匹配前面的0次或多次。所以要匹配不以数字和小写字母开头,中间任意个字符再加一个或多个数字结尾用正则表达式/^[^0-9a-z].*[0-9]/{1,/}/就可以了。
17.sed直接将修改结果保存到源文件中,需要使用-i参数。
也就是:sed -i 's/along/good/' sedx
将修改结果保存到另外的文件中要用到重定向或者是w。
也就是:sed 's/good/along/ w newfile' oldfile (会在终端上打印修改后的内容)
或者:sed 's/good/along/' oldfile > newfile (不在终端上打印)
比如下面的例子:
1)直接修改原文件
along@along-laptop:~/code/shell$ cat sedx
good name is along~
along@along-laptop:~/code/shell$ sed -i 's/good/along/' sedx
along@along-laptop:~/code/shell$ cat sedx
along name is along~
2)将结果打印到另外一个文件中。
也就是:sed -i 's/along/good/' sedx
将修改结果保存到另外的文件中要用到重定向或者是w。
along@along-laptop:~/code/shell$ cat sedx
along name is along~
along@along-laptop:~/code/shell$ sed 's/along/good/ w out' sedx
good name is along~
along@along-laptop:~/code/shell$ cat out
good name is along~
along@along-laptop:~/code/shell$ sed 's/good/along/' sedx > out
along@along-laptop:~/code/shell$ cat out
along name is along~
总结:
h:将模式空间的内容复制到暂存缓冲区,
即一个特殊的临时缓冲区。暂存缓冲区的当前内容被清除。
H: 将换行符和模式空间的内容追加到暂存缓冲区中,即使暂存缓冲区为空,这个命令也追加换行符。当
暂 存缓冲区为空时拷到暂存缓冲区的内容前边要加上空行,当暂存缓冲区不为空时,H这个命令就
又不再加空行了。
g:将暂存缓冲区中的内容复制到模式空间中,并将当前的内容清除。
G:将暂存缓冲区内容追加到模式空间。如果暂存缓冲区为空,则将换行符添加到模式空间。
along@along-laptop:~/code/shell/sed$ echo "123" | sed 'h;G'
123
123 ;因为h清空了暂存缓冲区,而且h拷贝时不会加上回车所以这里没有空格。
along@along-laptop:~/code/shell/sed$ echo "123" | sed 'H;G'
123
123 ;H拷贝时暂存缓冲区为空时拷贝到暂存缓冲区的内容前边要加上空行,所以这里会出现一个空行。
along@along-laptop:~/code/shell/sed$ echo "123" | sed 'H;g'
123 ;这和上边的一样,H会加上一个回车,同时g会清空模式空间当前的内容
along@along-laptop:~/code/shell/sed$ echo "123" | sed 'h;g'
123 ;h清空了暂存缓冲区,且拷贝时不加回车,g清空了模式空间,所以这里只有一行。
along@along-laptop:~/code/shell/sed$ echo "123" | sed 'H;H;g'
123
123 ;当暂存缓冲区不为空时H就不再加回车了。所以这里只有一个空行。
http://sed.sourceforge.net/sed1line_zh-CN.html
-------------------------------------------------------------------------
SED单行脚本快速参考(Unix 流编辑器) 2005年12月29日
英文标题:USEFUL ONE-LINE SCRIPTS FOR SED (Unix stream editor)
原标题:HANDY ONE-LINERS FOR SED (Unix stream editor)
整理:Eric Pement - 电邮:pemente[at]northpark[dot]edu 版本5.5
译者:Joe Hong - 电邮:hq00e[at]126[dot]com
在以下地址可找到本文档的最新(英文)版本:
http://sed.sourceforge.net/sed1line.txt
http://www.pement.org/sed/sed1line.txt
其他语言版本:
中文 - http://sed.sourceforge.net/sed1line_zh-CN.html
捷克语 - http://sed.sourceforge.net/sed1line_cz.html
荷语 - http://sed.sourceforge.net/sed1line_nl.html
法语 - http://sed.sourceforge.net/sed1line_fr.html
德语 - http://sed.sourceforge.net/sed1line_de.html
葡语 - http://sed.sourceforge.net/sed1line_pt-BR.html
文本间隔:
--------
# 在每一行后面增加一空行
sed G
# 将原来的所有空行删除并在每一行后面增加一空行。
# 这样在输出的文本中每一行后面将有且只有一空行。
sed '/^$/d;G'
# 在每一行后面增加两行空行
sed 'G;G'
# 将第一个脚本所产生的所有空行删除(即删除所有偶数行)
sed 'n;d'
# 在匹配式样“regex”的行之前插入一空行
sed '/regex/{x;p;x;}'
# 在匹配式样“regex”的行之后插入一空行
sed '/regex/G'
# 在匹配式样“regex”的行之前和之后各插入一空行
sed '/regex/{x;p;x;G;}'
编号:
--------
# 为文件中的每一行进行编号(简单的左对齐方式)。这里使用了“制表符”
# (tab,见本文末尾关于'/t'的用法的描述)而不是空格来对齐边缘。
sed = filename | sed 'N;s//n//t/'
# 对文件中的所有行编号(行号在左,文字右端对齐)。
sed = filename | sed 'N; s/^/ /; s/ */(./{6,/}/)/n//1 /'
# 对文件中的所有行编号,但只显示非空白行的行号。
sed '/./=' filename | sed '/./N; s//n/ /'
# 计算行数 (模拟 "wc -l")
sed -n '$='
文本转换和替代:
--------
# Unix环境:转换DOS的新行符(CR/LF)为Unix格式。
sed 's/.$//' # 假设所有行以CR/LF结束
sed 's/^M$//' # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V
sed 's//x0D$//' # ssed、gsed 3.02.80,及更高版本
# Unix环境:转换Unix的新行符(LF)为DOS格式。
sed "s/$/`echo -e ///r`/" # 在ksh下所使用的命令
sed 's/$'"/`echo ///r`/" # 在bash下所使用的命令
sed "s/$/`echo ///r`/" # 在zsh下所使用的命令
sed 's/$//r/' # gsed 3.02.80 及更高版本
# DOS环境:转换Unix新行符(LF)为DOS格式。
sed "s/$//" # 方法 1
sed -n p # 方法 2
# DOS环境:转换DOS新行符(CR/LF)为Unix格式。
# 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
# sed可以通过其特有的“--text”选项。你可以使用帮助选项(“--help”)看
# 其中有无一个“--text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。
sed "s//r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本
tr -d /r <infile >outfile # GNU tr 1.22 或更高版本
# 将每一行前导的“空白字符”(空格,制表符)删除
# 使之左对齐
sed 's/^[ /t]*//' # 见本文末尾关于'/t'用法的描述
# 将每一行拖尾的“空白字符”(空格,制表符)删除
sed 's/[ /t]*$//' # 见本文末尾关于'/t'用法的描述
# 将每一行中的前导和拖尾的空白字符删除
sed 's/^[ /t]*//;s/[ /t]*$//'
# 在每一行开头处插入5个空格(使全文向右移动5个字符的位置)
sed 's/^/ /'
# 以79个字符为宽度,将所有文本右对齐
sed -e :a -e 's/^./{1,78/}$/ &/;ta' # 78个字符外加最后的一个空格
# 以79个字符为宽度,使所有文本居中。在方法1中,为了让文本居中每一行的前
# 头和后头都填充了空格。 在方法2中,在居中文本的过程中只在文本的前面填充
# 空格,并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。
sed -e :a -e 's/^./{1,77/}$/ & /;ta' # 方法1
sed -e :a -e 's/^./{1,77/}$/ &/;ta' -e 's//( */)/1//1/' # 方法2
# 在每一行中查找字串“foo”,并将找到的“foo”替换为“bar”
sed 's/foo/bar/' # 只替换每一行中的第一个“foo”字串
sed 's/foo/bar/4' # 只替换每一行中的第四个“foo”字串
sed 's/foo/bar/g' # 将每一行中的所有“foo”都换成“bar”
sed 's//(.*/)foo/(.*foo/)//1bar/2/' # 替换倒数第二个“foo”
sed 's//(.*/)foo//1bar/' # 替换最后一个“foo”
# 只在行中出现字串“baz”的情况下将“foo”替换成“bar”
sed '/baz/s/foo/bar/g'
# 将“foo”替换成“bar”,并且只在行中未出现字串“baz”的情况下替换
sed '/baz/!s/foo/bar/g'
# 不管是“scarlet”“ruby”还是“puce”,一律换成“red”
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #对多数的sed都有效
gsed 's/scarlet/|ruby/|puce/red/g' # 只对GNU sed有效
# 倒置所有行,第一行成为最后一行,依次类推(模拟“tac”)。
# 由于某些原因,使用下面命令时HHsed v1.5会将文件中的空行删除
sed '1!G;h;$!d' # 方法1
sed -n '1!G;h;$p' # 方法2
# 将行中的字符逆序排列,第一个字成为最后一字,……(模拟“rev”)
sed '//n/!G;s//(./)/(.*/n/)/&/2/1/;//D;s/.//'
# 将每两行连接成一行(类似“paste”)
sed '$!N;s//n/ /'
# 如果当前行以反斜杠“/”结束,则将下一行并到当前行末尾
# 并去掉原来行尾的反斜杠
sed -e :a -e '///$/N; sn//; ta'
# 如果当前行以等号开头,将当前行并到上一行末尾
# 并以单个空格代替原来行头的“=”
sed -e :a -e '$!N;s//n=/ /;ta' -e 'P;D'
# 为数字字串增加逗号分隔符号,将“1234567”改为“1,234,567”
gsed ':a;s//B[0-9]/{3/}/>/,&/;ta' # GNU sed
sed -e :a -e 's//(.*[0-9]/)/([0-9]/{3/}/)//1,/2/;ta' # 其他sed
# 为带有小数点和负号的数值增加逗号分隔符(GNU sed)
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})//1/2,/3/g;ta'
# 在每5行后增加一空白行 (在第5,10,15,20,等行后增加一空白行)
gsed '0~5G' # 只对GNU sed有效
sed 'n;n;n;n;G;' # 其他sed
选择性地显示特定行:
--------
# 显示文件中的前10行 (模拟“head”的行为)
sed 10q
# 显示文件中的第一行 (模拟“head -1”命令)
sed q
# 显示文件中的最后10行 (模拟“tail”)
sed -e :a -e '$q;N;11,$D;ba'
# 显示文件中的最后2行(模拟“tail -2”命令)
sed '$!N;$!D'
# 显示文件中的最后一行(模拟“tail -1”)
sed '$!d' # 方法1
sed -n '$p' # 方法2
# 显示文件中的倒数第二行
sed -e '$!{h;d;}' -e x # 当文件中只有一行时,输入空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x # 当文件中只有一行时,显示该行
sed -e '1{$d;}' -e '$!{h;d;}' -e x # 当文件中只有一行时,不输出
# 只显示匹配正则表达式的行(模拟“grep”)
sed -n '/regexp/p' # 方法1
sed '/regexp/!d' # 方法2
# 只显示“不”匹配正则表达式的行(模拟“grep -v”)
sed -n '/regexp/!p' # 方法1,与前面的命令相对应
sed '/regexp/d' # 方法2,类似的语法
# 查找“regexp”并将匹配行的上一行显示出来,但并不显示匹配行
sed -n '/regexp/{g;1!p;};h'
# 查找“regexp”并将匹配行的下一行显示出来,但并不显示匹配行
sed -n '/regexp/{n;p;}'
# 显示包含“regexp”的行及其前后行,并在第一行之前加上“regexp”所
# 在行的行号 (类似“grep -A1 -B1”)
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
# 显示包含“AAA”、“BBB”或“CCC”的行(任意次序)
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影响结果
# 显示包含“AAA”、“BBB”和“CCC”的行(固定次序)
sed '/AAA.*BBB.*CCC/!d'
# 显示包含“AAA”“BBB”或“CCC”的行 (模拟“egrep”)
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多数sed
gsed '/AAA/|BBB/|CCC/!d' # 对GNU sed有效
# 显示包含“AAA”的段落 (段落间以空行分隔)
# HHsed v1.5 必须在“x;”后加入“G;”,接下来的3个脚本都是这样
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
# 显示包含“AAA”“BBB”和“CCC”三个字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
# 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 (任意次序)
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA/|BBB/|CCC/b;d' # 只对GNU sed有效
# 显示包含65个或以上字符的行
sed -n '/^./{65/}/p'
# 显示包含65个以下字符的行
sed -n '/^./{65/}/!p' # 方法1,与上面的脚本相对应
sed '/^./{65/}/d' # 方法2,更简便一点的方法
# 显示部分文本——从包含正则表达式的行开始到最后一行结束
sed -n '/regexp/,$p'
# 显示部分文本——指定行号范围(从第8至第12行,含8和12行)
sed -n '8,12p' # 方法1
sed '8,12!d' # 方法2
# 显示第52行
sed -n '52p' # 方法1
sed '52!d' # 方法2
sed '52q;d' # 方法3, 处理大文件时更有效率
# 从第3行开始,每7行显示一次
gsed -n '3~7p' # 只对GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}' # 其他sed
# 显示两个正则表达式之间的文本(包含)
sed -n '/Iowa/,/Montana/p' # 区分大小写方式
选择性地删除特定行:
--------
# 显示通篇文档,除了两个正则表达式之间的内容
sed '/Iowa/,/Montana/d'
# 删除文件中相邻的重复行(模拟“uniq”)
# 只保留重复行中的第一行,其他行删除
sed '$!N; /^/(.*/)/n/1$/!P; D'
# 删除文件中的重复行,不管有无相邻。注意hold space所能支持的缓存
# 大小,或者使用GNU sed。
sed -n 'G; s//n/&&/; /^/([ -~]*/n/).*/n/1/d; s//n//; h; P'
# 删除除重复行外的所有行(模拟“uniq -d”)
sed '$!N; s/^/(.*/)/n/1$//1/; t; D'
# 删除文件中开头的10行
sed '1,10d'
# 删除文件中的最后一行
sed '$d'
# 删除文件中的最后两行
sed 'N;$!P;$!D;$d'
# 删除文件中的最后10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2
# 删除8的倍数行
gsed '0~8d' # 只对GNU sed有效
sed 'n;n;n;n;n;n;n;d;' # 其他sed
# 删除匹配式样的行
sed '/pattern/d' # 删除含pattern的行。当然pattern
# 可以换成任何有效的正则表达式
# 删除文件中的所有空行(与“grep '.' ”效果相同)
sed '/^$/d' # 方法1
sed '/./!d' # 方法2
# 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
# (模拟“cat -s”)
sed '/./,/^$/!d' #方法1,删除文件顶部的空行,允许尾部保留一空行
sed '/^$/N;//n$/D' #方法2,允许顶部保留一空行,尾部不留空行
# 只保留多个相邻空行的前两行。
sed '/^$/N;//n$/N;//D'
# 删除文件顶部的所有空行
sed '/./,$!d'
# 删除文件尾部的所有空行
sed -e :a -e '/^/n*$/{$d;N;ba' -e '}' # 对所有sed有效
sed -e :a -e '/^/n*$/N;//n$/ba' # 同上,但只对 gsed 3.02.*有效
# 删除每个段落的最后一行
sed -n '/^$/{p;h;};/./{x;/./p;}'
特殊应用:
--------
# 移除手册页(man page)中的nroff标记。在Unix System V或bash shell下使
# 用'echo'命令时可能需要加上 -e 选项。
sed "s/.`echo ///b`//g" # 外层的双括号是必须的(Unix环境)
sed 's/.^H//g' # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/./x08//g' # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法
# 提取新闻组或 e-mail 的邮件头
sed '/^$/q' # 删除第一行空行后的所有内容
# 提取新闻组或 e-mail 的正文部分
sed '1,/^$/d' # 删除第一行空行之前的所有内容
# 从邮件头提取“Subject”(标题栏字段),并移除开头的“Subject:”字样
sed '/^Subject: */!d; s///;q'
# 从邮件头获得回复地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
# 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮
# 地址的部分剃除。(见上一脚本)
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
# 在每一行开头加上一个尖括号和空格(引用信息)
sed 's/^/> /'
# 将每一行开头处的尖括号和空格删除(解除引用)
sed 's/^> //'
# 移除大部分的HTML标签(包括跨行标签)
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
# 将分成多卷的uuencode文件解码。移除文件头信息,只保留uuencode编码部分。
# 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入;
# 第二种版本则可以放入一个带执行权限的shell脚本中。(由Rahul Dhesi的一
# 个脚本修改而来。)
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1
sed '/^end/,/^begin/d' "$@" | uudecode # vers. 2
# 将文件中的段落以字母顺序排序。段落间以(一行或多行)空行分隔。GNU sed使用
# 字元“/v”来表示垂直制表符,这里用它来作为换行符的占位符——当然你也可以
# 用其他未在文件中使用的字符来代替它。
sed '/./{H;d;};x;s//n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=//n/g'
gsed '/./{H;d};x;y//n//v/' file | sort | sed '1s//v//;y//v//n/'
# 分别压缩每个.TXT文件,压缩后删除原来的文件并将压缩后的.ZIP文件
# 命名为与原来相同的名字(只是扩展名不同)。(DOS环境:“dir /b”
# 显示不带路径的文件名)。
echo @echo off >zipup.bat
dir /b *.txt | sed "s/^/(.*/)/.TXT/pkzip -mo /1 /1.TXT/" >>zipup.bat
使用SED:Sed接受一个或多个编辑命令,并且每读入一行后就依次应用这些命令。
当读入第一行输入后,sed对其应用所有的命令,然后将结果输出。接着再读入第二
行输入,对其应用所有的命令……并重复这个过程。上一个例子中sed由标准输入设
备(即命令解释器,通常是以管道输入的形式)获得输入。在命令行给出一个或多
个文件名作为参数时,这些文件取代标准输入设备成为sed的输入。sed的输出将被
送到标准输出(显示器)。因此:
cat filename | sed '10q' # 使用管道输入
sed '10q' filename # 同样效果,但不使用管道输入
sed '10q' filename > newfile # 将输出转移(重定向)到磁盘上
要了解sed命令的使用说明,包括如何通过脚本文件(而非从命令行)来使用这些命
令,请参阅《sed & awk》第二版,作者Dale Dougherty和Arnold Robbins
(O'Reilly,1997;http://www.ora.com),《UNIX Text Processing》,作者
Dale Dougherty和Tim O'Reilly(Hayden Books,1987)或者是Mike Arst写的教
程——压缩包的名称是“U-SEDIT2.ZIP”(在许多站点上都找得到)。要发掘sed
的潜力,则必须对“正则表达式”有足够的理解。正则表达式的资料可以看
《Mastering Regular Expressions》作者Jeffrey Friedl(O'reilly 1997)。
Unix系统所提供的手册页(“man”)也会有所帮助(试一下这些命令
“man sed”、“man regexp”,或者看“man ed”中关于正则表达式的部分),但
手册提供的信息比较“抽象”——这也是它一直为人所诟病的。不过,它本来就不
是用来教初学者如何使用sed或正则表达式的教材,而只是为那些熟悉这些工具的人
提供的一些文本参考。
括号语法:前面的例子对sed命令基本上都使用单引号('...')而非双引号
("...")这是因为sed通常是在Unix平台上使用。单引号下,Unix的shell(命令
解释器)不会对美元符($)和后引号(`...`)进行解释和执行。而在双引号下
美元符会被展开为变量或参数的值,后引号中的命令被执行并以输出的结果代替
后引号中的内容。而在“csh”及其衍生的shell中使用感叹号(!)时需要在其前
面加上转义用的反斜杠(就像这样:/!)以保证上面所使用的例子能正常运行
(包括使用单引号的情况下)。DOS版本的Sed则一律使用双引号("...")而不是
引号来圈起命令。
'/t'的用法:为了使本文保持行文简洁,我们在脚本中使用'/t'来表示一个制表
符。但是现在大部分版本的sed还不能识别'/t'的简写方式,因此当在命令行中为
脚本输入制表符时,你应该直接按TAB键来输入制表符而不是输入'/t'。下列的工
具软件都支持'/t'做为一个正则表达式的字元来表示制表符:awk、perl、HHsed、
sedmod以及GNU sed v3.02.80。
不同版本的SED:不同的版本间的sed会有些不同之处,可以想象它们之间在语法上
会有差异。具体而言,它们中大部分不支持在编辑命令中间使用标签(:name)或分
支命令(b,t),除非是放在那些的末尾。这篇文档中我们尽量选用了可移植性较高
的语法,以使大多数版本的sed的用户都能使用这些脚本。不过GNU版本的sed允许使
用更简洁的语法。想像一下当读者看到一个很长的命令时的心情:
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
好消息是GNU sed能让命令更紧凑:
sed '/AAA/b;/BBB/b;/CCC/b;d' # 甚至可以写成
sed '/AAA/|BBB/|CCC/b;d'
此外,请注意虽然许多版本的sed接受象“/one/ s/RE1/RE2/”这种在's'前带有空
格的命令,但这些版本中有些却不接受这样的命令:“/one/! s/RE1/RE2/”。这时
只需要把中间的空格去掉就行了。
速度优化:当由于某种原因(比如输入文件较大、处理器或硬盘较慢等)需要提高
命令执行速度时,可以考虑在替换命令(“s/.../.../”)前面加上地址表达式来
提高速度。举例来说:
sed 's/foo/bar/g' filename # 标准替换命令
sed '/foo/ s/foo/bar/g' filename # 速度更快
sed '/foo/ s//bar/g' filename # 简写形式
当只需要显示文件的前面的部分或需要删除后面的内容时,可以在脚本中使用“q”
命令(退出命令)。在处理大的文件时,这会节省大量时间。因此:
sed -n '45,50p' filename # 显示第45到50行
sed -n '51q;45,50p' filename # 一样,但快得多
如果你有其他的单行脚本想与大家分享或者你发现了本文档中错误的地方,请发电
子邮件给本文档的作者(Eric Pement)。邮件中请记得提供你所使用的sed版本、
该sed所运行的操作系统及对问题的适当描述。本文所指的单行脚本指命令行的长
度在65个字符或65个以下的sed脚本〔译注1〕。本文档的各种脚本是由以下所列作
者所写或提供:
Al Aab # 建立了“seders”邮件列表
Edgar Allen # 许多方面
Yiorgos Adamopoulos # 许多方面
Dale Dougherty # 《sed & awk》作者
Carlos Duarte # 《do it with sed》作者
Eric Pement # 本文档的作者
Ken Pizzini # GNU sed v3.02 的作者
S.G. Ravenhall # 去html标签脚本
Greg Ubben # 有诸多贡献并提供了许多帮助
-------------------------------------------------------------------------
译注1:大部分情况下,sed脚本无论多长都能写成单行的形式(通过`-e'选项和`;'
号)——只要命令解释器支持,所以这里说的单行脚本除了能写成一行还对长度有
所限制。因为这些单行脚本的意义不在于它们是以单行的形式出现。而是让用户能
方便地在命令行中使用这些紧凑的脚本才是其意义所
本文来自CSDN博客,转载请标明出处:http://blog.csdn.net/unbutun/archive/2010/01/09/5166364.aspx