shell脚本——流编辑器“三剑客”之sed命令

一、流编辑器“三剑客”

sed
awk
grep

二、sed编辑器

• sed是一种流编辑器，流编辑器会在编辑器处理数据之前基于预先提供的一组规则来编辑数据流

• sed编辑器可以根据命令来处理数据流中的数据，这些命令要么从命令行中输入，要么存储在一个命令文本文件中

1、sed的工作流程

sed的工作流程主要包括读取、执行和显示三个过程

• 读取

  sed从输入流（文件、管道、标准输入）中读取一行内容并存储到临时的缓冲区中（又称模式空间，pattern space）

• 执行

  默认情况下，所有的sed命令都在模式空间中顺序的执行，除非指定了行的地址，否则sed命令将会在所有的行上依次执行

• 显示

  发送修改后的内容到输出流。在发送数据后，模式空间将会被清空。

在所有的文件内容都被处理完之前，上述过程将被重复执行，直至所有内容被处理完

注：默认情况下，所有的sed命令都在模式空间内执行的，因此输入的文件并不会发生任何变化，除非是用重定向存储输出

如果遇到很大的一个文件，直接用sed/grep/awk的话有可能对IO性能造成损害。

• 可以使用 “ cat 文件 | ” 再交给sed/grep/awk 、
• 或者使用split命令将大文件分割成许多小文件，从而加快sed/grep/awk读取效率

2、命令格式

sed -e '操作' 文件1 文件2 ....
sed -n -e '操作' 文件1 文件2 ....
sed -f 脚本文件 文件1 文件2 ....
sed -i -e '操作' 文件1 文件2 ....

sed -e 'n{
操作1
操作2
...
}'文件1 文件2 

3、常用选项

选项	说明
-e 或–expression=	表示用指定命令来处理输入的文本文件，只有一个操作命令时可忽略，一般在执行多个操作命令时使用
-f 或–file=	表示用指定的脚本文件来处理输入的文本文件
-n、–quiet或silent	禁止sed编辑器输出，但可以与p命令一起完成输出
-i	直接修改目标文本文件
-h 或–help	显示帮助

4、常用操作

操作	说明
s	替换，替换指定字符
d	删除，删除选定的行
a	增加，在当前行下面增加一行指定内容
i	插入，在选定行上面插入一行指定内容
c	替换，将选定行替换为指定内容
y	字符转换，转换前后的字符长度必须相同
p	打印，如果同时指定行，表示打印指定行；如果不指定行，则表示打印所有内容；如果有非打印字符，则以ASCII码输出。其通常与"-n"选项一起使用
=	打印行号
l(小写L)	打印数据流中的文本和不可打印的ASCII字符（比如结束符$、制表符\t）

5、打印内容

sed -n -e 'p' testfile1

sed -n -e '=' testfile1

sed -n -e 'l' testfile

sed -n -e '=;p' testfile
sed -n -e '=' -e 'p' testfile

6、使用地址

sed编辑器有2钟寻址方式

• (1)、以数字形式表示行区间
• (2)、用文本模式来过滤出行

以数字形式表示行区间

sed -n '1p' testfile1           #打印第1行

sed -n '$p' testfile1           #打印最后一行

sed -n '1,3p' testfilel           #打印第1到第3行

sed -n '3,$p' testfile1l           #打印第3到最后一行

sed -n '1,+3p' testfilel       #打印第1之后的连续3行，即1-4行

sed '5q' testfile1             #打印前5行信息后退出，q表示退出

sed -n 'p;n' testfile1        #打印奇数行; n表示移动到下一行

sed -n 'n;p' testfile1        #打印偶数行

sed -n '2,${n;p}' testfile1

用文本模式来过滤出行

sed -n '/user/p' /etc/passwd      #过滤包含user的行

sed -n '/^a/p' /etc/ passwd      #打印包含以a为开头的行

sed -n '/bash$/p' /etc/ passwd		#打印以bash结尾的行

sed -n '/ftp\|root/p' /etc/passwd     #打印含有ftp或者root的行

sed -n '2,/nobody/p' /etc/passwd	#打印从第2行开始，直到第一个包含nobody的行结束

sed -n '2,/nobody/=' /etc/passwd	#打印从第2行开始，直到第一个包含nobody的行结束的行号

sed -nr '/ro{1,}t/p' /etc/passwd     #-r表示支持扩展正则表达式

7、删除行

根据行号删除

sed 'd' testfile1    #全删

sed '3d' testfile1       #删除第3行

sed '2,4d' testfile1       #删除第2到4行

sed '$d' testfile1       #删除最后一行

sed '/^$/d' testfile1       #删除空行

sed '/nologin$/d' /etc/passwd sed '/nologin$/!d' /etc/passwd     
#“!"表示取反操作

根据字符匹配删除

sed ‘/2/,/3/d’ testfile2 #从第一个位置打开行删除功能，到第二个位置关闭行删除功能

8、替换

行范围 s/旧字符串/新字符串/替换标记

数字 标明新字符串将替换第几处匹配的地方
g 表明新字符串将会替换所有匹配的地方
p 打印与替换命令匹配的行，与-n一起使用
w 文件 将替换的结果写到文件中

sed -n ‘s/root/admin/p’ /etc/passwd

sed -n 's/root/admin/p' /etc/passwd
sed -n 's/ root/admin/2p' /etc/passwd
sed -n 's/root/admin/gp' /etc/passwd

sed 's/root//g' /etc/passwd
sed '1,20 s/^/#/' /etc/passwd
sed '/^root/ s/$/#/' /etc/passwd

sed -n 's/\/bin\/bash/\/bin\/csh/p' /etc/passwd
sed -n 's!/bin/bash!/bin/csh!p' /etc/passwd      #使用“!”作为字符串分隔符
sed -i 's9\945\9\99\98\939g' test.txt            #将94599替换为9893

9、插入

sed '/two/c 123' testfile2
sed '1,3a 555' testfile2
sed '1,3i 555' testfile2

sed '5r /etc/resolv.conf' testfile2

sed '/root/{H;d};$G' /etc/passwd     #将包含root的行剪切到末尾，H表示复制到剪切板，G表示粘贴到指定行后

sed '1,2H;3,4G' /etc/passwd         #将1、2行复制到3和4行的下面

echo "111222333" 1 sed -r 's/(111)(222)/\2\1/'      #将字符111和222 互换位置
echo "111222333" 1 sed -r 's/^(.)(.*)(.)$/\3\2\1/'    #将第一个字符和最后一个字符互换