shell 编程sed

一、sed工具

sed是一个强大而简单的文本解析转换工具，可以读取文本，并根据指定的条件对文本内容进行编辑（删除、替换、添加、移动等），最后输出所有行或者仅输出处理的某些行。sed也可以再无交互的情况下实现相当复杂的文本处理操作，被广泛应用于Shell脚本中，可以完成各种自动化处理任务。
sed 的工作流程主要包括读取、执行和显示三个过程。
读取：sed从输入流（文件、管道、标准输入）中读取一行内容并存储到临时的缓冲区中（又称模式空间）
执行：默认情况下，所有的sed命令都在模式空间中顺序地执行，除非指定了行的地址，否则sed命令将会在所有的行依次执行。
显示：发送修改后的内容到输出流。在发送数据后，模式空间将会被清空。在所有的我呢见内容都被处理完成之前，上述过程将重复执行，直至所有内容被处理完。

注意：默认情况下所有的sed命令都是在模式空间内执行的，因此输入的文件并不会发生任何变化，除非是用重定向存储输出。

二、sed命令用法

通常情况下调用sed命令有两种格式。
其中，“参数"是指操作的目标文件，当存在多个操作对象时，文件之间用逗号”,“分隔；而scriptfile表示脚本文件，需要用”-f"选项指定，当脚本文件出现再目标文件之前时，表示通过指定的脚本文件来处理输入的目标文件。

sed [选项] '操作' 参数
sed [选项] -f scriptfile 参数

1.常见的sed命令选项

选项	功能
-e	表示用指定命令或者脚本来处理输入的文本文件
-f	表示用指定的脚本文件来处理输入的文本文件
-h	显示帮助
-n	表示仅显示处理后的结果（关闭自动打印）
-i	直接编辑文本文件
-r或-E	使用扩展正则表达式
-s	将多个文件视为独立文件，而不是单个连续的长文件流

2、常见的sed操作指令

“操作”用于指定对文件操作的动作行为，也就是 sed 的命令。通常情况下是采用的“[n1[,n2]]”操作参数的格式。n1、n2 是可选的，不一定会存在，代表选择进行操作的行数，如操作需要在 5～20 行之间进行，则表示为“5，20 动作行为”。常见的操作包括以下几种。

a	增加，在当前行下面增加一行指定内容
c	替换，将选定行替换为指定内容
d	删除，删除选定的行
i	插入，在选定行上面插入一行指定内容
p	打印，如果同时指定行，表示打印指定行；如果不指定行，则表示打印所有内容；如果有非打印字符，则以 ASCII 码输出。其通常与“-n”选项一起使用
s	替换，替换指定字符
y	字符转换

 三、sed案例

1、sed -n 用法

 sed -n "3p" 3.txt  等同于 cat test.txt             sed -n 关闭自动打印

 

 sed -n "2,5p" test.txt    #输出第2到5行的内容

 输出所有奇数行,n 表示读入下一行资料   sed -n "p;n"  test.txt

 输出偶数行     sed -n "n;p" tese.txt

  输出1-5行的奇数行   sed -n "1,5{p;n}"  test.txt

 输出1-5行的奇数行    sed -n '1,5{1~2p}' test.txt 

 输出1-5行的偶数行    sed -n '1,5{2~2p}' test.txt    

 输出第10行到文件尾的偶数行  sed -n '10,${n;p}' test.txt

 从第1行开始连续输出1-4行      sed -n "1,+3p" test.txt   

2、sed -e 用法 

sed命令可以不只包含一个命令。如果要包含多个命令，只需要每个命令前加上一个 -e 选项即可

 注意：-e选项的后面要接命令内容，不夹杂其它选项

3、sed结合正则表达式输出指定行

sed 命令结合正则表达式时，格式略有不同，正则表达式以 “/” 包围。

注：如果遇到特殊符号的情况，扩展正则还需要转义字符“\”。

1.sed -n '/the/p' test.txt            输出包含the的行

 

 2.输出从第四行开始包含the的行         sed -n '4,/the/p' test.txt

3. 输出包含the 的行所在的行号,等号(=)用来输出行号 

4. 输出以PI 开头的行   sed -n '/^PI/p' test.txt

 

5. 输出以数字结尾的行  sed -n '/[0-9]$/p' test.txt

6.输出包含单词wood 的行,\<、\>代表单词边界   sed -n '/\<wood\>/p' test.txt

4、删除符合条件的文本（d） 

1. nl test.txt | sed '3d'     或者     sed  '3d'  test.txt   或者sed -i '3d' test.txt

#-i会对文本直接进行修改

#删除第三行

2. 删除第 3~5 行且显示行号   nl test.txt | sed '3,5d'

3. //删除包含cross 的行,原本的第 8 行被删除

 

4. //删除不包含the 的行,用  !  符号表示取反操作,如'/the/！d' 

5. 删除以小写字母开头的行  sed '/^[a-z]/d' test.txt

6.删除以 "." 结尾的行    sed '/\./d' test.txt

 

 注意： 若是删除重复的空行，即连续的空行只保留一个， 执行“ sed –e ‘/^$/{n;/^$/d}’test.txt”命令即可实现。其效果与“cat -s test.txt”相同，n 表示读下一行数据。

5、插入符合条件的文本

在某行下添加XX    i  的用法

1.在第2行上插入你好          sed '2i 你好' test.txt

在含有the行上加一行 你好    sed '/the/i 你好世界' test.txt

2.在某行上添加     a  的用法

在含有王雨的行下增加一行  你好啊   cat -n 1.txt | sed '/王雨/a 你好'

nl 1.txt | sed '2a 你好\n大家好'    在第2行后面插入多行，\n表示换行 

 

  在第2行下增加一行   你好啊    cat -n 2.txt | sed '2a 你好啊'

 

3.替换  c 的用法 

第1行替换为大家好    sed '1c 大家好' 2.txt

 6、字符串替换

sed 's/the/THE' test.txt              #将每行中的第一个the替换为THE

 

sed ‘s/l/L/2’ test.txt          #将每行的第二个l替换为L 

 

 sed 's/the/THE/g' test.txt  #将文件中所有的the都替换为THE

 sed 's/o/ /g' test.txt    #将所有的o都替换为空字符

 sed 's/^/#/' test.txt  #将所有行前面都加个#

 sed '3，5s/the/THE/g' test.txt        #将3-5行中的the替换为THE

 sed '/the/s/o/A/g' test.txt    #将包含the的行中的o替换为A

7、先备份在修改数据 

sed -i.bak 's/SELINUX=disable/SELINUX=enfocing/' 10

 

四、迁移符合条件的文本

迁移文本的参数
H: 复制到剪贴板；
g、G: 将剪贴板中的数据覆盖/追加至指定行；
w：保存为文件；
r：读取指定文件；
a：追加指定内容。具体操作方法如下所示。
I,i 忽略大小写

 sed '/the/{H;d};$G'  test.txt  #包含the的行迁移至文件末尾，{;}用于多个操作

 

 sed '1,3/{H;d};6G' test.txt  #将1-3行内容迁移追加到6行后 

 

sed '/张三/w 11' 6.txt 将包含张三的行保存带新建文件11中 

  sed '/the/r 3.txt' 2.txt  将文件3.txt 的内容添加到包含 the 的每行以后

五、使用脚本编辑文件

使用 sed 脚本将多个编辑指令存放到文件中（每行一条编辑指令），通过 “-f ” 选项来调用

如下操作等于sed '1,3{H;d};5G' 2.txt

 六、sed分组

sed -rn 's/(.*)(.*)(.*)/\1/p'

 

 name=root
echo $name

sed -n "/$name/p"  /etc/passwd   输出变量值所在行

 sed -n '/'$name'/p' /etc/passwd   输出变量值所在行