sed 工具简介
在了解了一些正规表示法的基础应用之后，再来呢？呵呵～两个东西可以玩一玩的，那就是 sed 跟 awk 了！ 这两个家伙可是相当的有用的啊！举例来说，鸟哥写的 logfile.sh 分析登录文件的小程序， 绝大部分分析关键词的取用、统计等等，就是用这两个宝贝蛋来帮我完成的！ 那么你说，要不要玩一玩啊？！ ^_^
我们先来谈一谈 sed 好了，基本上， sed 可以分析 Standard Input (STDIN) 的数据， 然后将数据经过处理后，再将他输出到 standrad out (STDOUT) 的一个工具。 至于处理呢？可以进行取代、删除、新增、撷取特定行等等的功能呢！很不错吧～ 我们先来了解一下 sed 的用法，再来聊他的用途好了！
[root@linux ~]# sed [-nefri] [动作]
参数：
-n
-e
-f
-r
-i
动作说明：
n1, n2 ：不见得会存在，一般代表『选择进行动作的行数』，举例来说，如果我的动作
function 有底下这些咚咚：
a
c
d
i
p
s
范例：
范例一：将 /etc/passwd 的内容列出，并且我需要打印行号，同时，请将第 2~5 行删除！
[root@linux ~]# nl /etc/passwd |sed '2,5d'
.....(后面省略).....
# 看到了吧？因为 2-5 行给他删除了，所以显示的数据中，就没有 2-5 行啰～
# 另外，注意一下，原本应该是要下达 sed -e 才对，没有 -e 也行啦！
# 同时也要注意的是， sed 后面接的动作，请务必以 '' 两个单引号括住喔！
# 而，如果只要删除第 2 行，可以使用 nl /etc/passwd | sed '2d' 来达成，
# 至于第 3 到最后一行，则是 nl /etc/passwd | sed '3,$d' 的啦！
范例二：承上题，在第二行后(亦即是加在第三行)加上『drink tea?』字样！
[root@linux ~]# nl /etc/passwd |sed '2a drink tea'
drink tea
# 嘿嘿！在 a 后面加上的字符串就已将出现在第二行后面啰！那如果是要在第二行前呢？
# nl /etc/passwd | sed '2i drink tea' 就对啦！
范例三：在第二行后面加入两行字，例如『Drink tea or .....』『drink beer?』
[root@linux ~]# nl /etc/passwd | sed '2a Drink tea or ......\
> drink beer ?'
Drink tea or ......
drink beer ?
# 这个范例的重点是，我们可以新增不只一行喔！可以新增好几行～
# 但是每一行之间都必须要以反斜线 \ 来进行新行的增加喔！所以，上面的例子中，
# 我们可以发现在第一行的最后面就有 \ 存在啦！那是一定要的喔！
范例四：我想将第2-5行的内容取代成为『No 2-5 number』呢？
[root@linux ~]# nl /etc/passwd | sed '2,5c No 2-5 number'
No 2-5 number
# 没有了 2-5 行，嘿嘿嘿嘿！我们要的数据就出现啦！
范例五：仅列出第 5-7 行
[root@linux ~]# nl /etc/passwd | sed -n '5,7p'
# 为什么要加 -n 的参数呢？您可以自行下达 sed '5,7p' 就知道了！(5-7行会重复输出)
# 有没有加上 -n 的参数时，输出的数据可是差很多的喔！
范例六：我们可以使用 ifconfig 来列出 IP ，若仅要 eth0 的 IP 时？
[root@linux ~]# ifconfig eth0
eth0
.....(以下省略).....
# 其实，我们要的只是那个 inet addr:..那一行而已，所以啰，利用 grep 与 sed 来捉
[root@linux ~]# ifconfig eth0 | grep 'inet ' | sed 's/^.*addr://g' | \
> sed 's/Bcast.*$//g'
# 您可以将每个管线 (|) 的过程都分开来执行，就会晓得原因啰！
# 去头去尾之后，就会得到我们所需要的 IP 亦即是 192.168.1.12 啰～
范例七：将 /etc/man.config 档案的内容中，有 MAN 的设定就取出来，但不要说明内容。
[root@linux ~]# cat /etc/man.config | grep 'MAN'| sed 's/#.*$//g' | \
> sed '/^$/d'
# 每一行当中，若有 # 表示该行为批注，但是要注意的是，有时候，
# 批注并不是写在第一个字符，亦即是写在某个指令后方，如底下的模样：
# 『shutdown -h now # 这个是关机的指令』，批注 # 就在指令的后方了。
# 因此，我们才会使用到将 #.*$ 这个正规表示法！
范例八：利用 sed 直接在 ~/.bashrc 最后一行加入『# This is a test』
[root@linux ~]# sed -i '$a # This is a test'
# 上头的 -i 参数可以让你的 sed 直接去修改后面接的档案内容喔！而不是由屏幕输出。
# 至于那个 $a
总之，这个 sed 不错用啦！而且很多的 shell script 都会使用到这个指令的功能～ sed 可以帮助系统管理员管理好日常的工作喔！要仔细的学习呢！
awk 工具简介
相较于 sed 常常作用于一整个行的处理， awk 则比较倾向于一行当中分成数个『字段』来处理。 因此，awk 相当的适合处理小型的数据数据处理呢！awk 通常运作的模式是这样的：
[root@linux ~]# awk '条件类型1{动作1} 条件类型2{动作2} ...' filename awk 可以处理后续接的档案，也可以读取来自前个指令的 standard output 。 但如前面说的， awk 主要是处理『每一行的字段内的数据』，而预设的『字段的分隔符为 "空格键" 或 "[tab]键" 』！举例来说，我们用 last 可以将登入者的数据取出来， 结果如下所示：
[root@linux ~]#lastdmtsai
root
reboot
dmtsai
若我想要取出账号与登入者的 IP ，且账号与 IP 之间以 [tab] 隔开，则会变成这样：
[root@linux ~]# last | awk '{print $1 "\t" $3}'
dmtsai
root
reboot
dmtsai
因为不论哪一行我都要处理，因此，就不需要有 "条件类型" 的限制！我所想要的是第一栏以及第三栏， 但是，第二行及第三行的内容怪怪的～这是因为数据格式的问题啊！所以啰～使用 awk 的时候，请先确认一下您的数据当中，如果是连续性的数据，请不要有空格或 [tab] 在内，否则，就会像这个例子这样，会发生误判喔！
另外，由上面这个例子您也会知道，在每一行的每个字段都是有变量名称的，那就是 $1, $2... 等变量名称，以上面的例子来说， dmtsai 是 $1 ，因为他是第一栏嘛！至于 192.168.1.12 是第三栏， 所以他就是 $3 啦！后面以此类推～呵呵！还有个变数喔！那就是 $0 ，$0 代表『一整列资料』的意思～ 以上面的例子来说，第一行的 $0 代表的就是『dmtsai pts/0.... 』那一行啊！ 由此可知，刚刚上面四行当中，整个 awk 的处理流程是：
printf
来辅助，所以， 最好您对 printf 也稍微熟悉一下比较好啦！另外， awk 的动作内 {} 也是支持 if (条件) 的喔！ 举例来说，上面的指令可以修订成为这样的
[root@linux ~]# cat pay.txt | \
> awk '{if(NR==1) printf "s s s s s\n",$1,$2,$3,$4,"Total"}
NR>=2{total = $2 + $3 + $4
printf "s d d d .2f\n", $1, $2, $3, $4, total}'
原文地址：http://blog.sina.com.cn/s/blog_7fc4c23d0101achi.html
在了解了一些正规表示法的基础应用之后，再来呢？呵呵～两个东西可以玩一玩的，那就是 sed 跟 awk 了！ 这两个家伙可是相当的有用的啊！举例来说，鸟哥写的 logfile.sh 分析登录文件的小程序， 绝大部分分析关键词的取用、统计等等，就是用这两个宝贝蛋来帮我完成的！ 那么你说，要不要玩一玩啊？！ ^_^
我们先来谈一谈 sed 好了，基本上， sed 可以分析 Standard Input (STDIN) 的数据， 然后将数据经过处理后，再将他输出到 standrad out (STDOUT) 的一个工具。 至于处理呢？可以进行取代、删除、新增、撷取特定行等等的功能呢！很不错吧～ 我们先来了解一下 sed 的用法，再来聊他的用途好了！
[root@linux ~]# sed [-nefri] [动作]
参数：
-n
-e
-f
-r
-i
动作说明：
n1, n2 ：不见得会存在，一般代表『选择进行动作的行数』，举例来说，如果我的动作
function 有底下这些咚咚：
a
c
d
i
p
s
范例：
范例一：将 /etc/passwd 的内容列出，并且我需要打印行号，同时，请将第 2~5 行删除！
[root@linux ~]# nl /etc/passwd |sed '2,5d'
.....(后面省略).....
# 看到了吧？因为 2-5 行给他删除了，所以显示的数据中，就没有 2-5 行啰～
# 另外，注意一下，原本应该是要下达 sed -e 才对，没有 -e 也行啦！
# 同时也要注意的是， sed 后面接的动作，请务必以 '' 两个单引号括住喔！
# 而，如果只要删除第 2 行，可以使用 nl /etc/passwd | sed '2d' 来达成，
# 至于第 3 到最后一行，则是 nl /etc/passwd | sed '3,$d' 的啦！
范例二：承上题，在第二行后(亦即是加在第三行)加上『drink tea?』字样！
[root@linux ~]# nl /etc/passwd |sed '2a drink tea'
drink tea
# 嘿嘿！在 a 后面加上的字符串就已将出现在第二行后面啰！那如果是要在第二行前呢？
# nl /etc/passwd | sed '2i drink tea' 就对啦！
范例三：在第二行后面加入两行字，例如『Drink tea or .....』『drink beer?』
[root@linux ~]# nl /etc/passwd | sed '2a Drink tea or ......\
> drink beer ?'
Drink tea or ......
drink beer ?
# 这个范例的重点是，我们可以新增不只一行喔！可以新增好几行～
# 但是每一行之间都必须要以反斜线 \ 来进行新行的增加喔！所以，上面的例子中，
# 我们可以发现在第一行的最后面就有 \ 存在啦！那是一定要的喔！
范例四：我想将第2-5行的内容取代成为『No 2-5 number』呢？
[root@linux ~]# nl /etc/passwd | sed '2,5c No 2-5 number'
No 2-5 number
# 没有了 2-5 行，嘿嘿嘿嘿！我们要的数据就出现啦！
范例五：仅列出第 5-7 行
[root@linux ~]# nl /etc/passwd | sed -n '5,7p'
# 为什么要加 -n 的参数呢？您可以自行下达 sed '5,7p' 就知道了！(5-7行会重复输出)
# 有没有加上 -n 的参数时，输出的数据可是差很多的喔！
范例六：我们可以使用 ifconfig 来列出 IP ，若仅要 eth0 的 IP 时？
[root@linux ~]# ifconfig eth0
eth0
.....(以下省略).....
# 其实，我们要的只是那个 inet addr:..那一行而已，所以啰，利用 grep 与 sed 来捉
[root@linux ~]# ifconfig eth0 | grep 'inet ' | sed 's/^.*addr://g' | \
> sed 's/Bcast.*$//g'
# 您可以将每个管线 (|) 的过程都分开来执行，就会晓得原因啰！
# 去头去尾之后，就会得到我们所需要的 IP 亦即是 192.168.1.12 啰～
范例七：将 /etc/man.config 档案的内容中，有 MAN 的设定就取出来，但不要说明内容。
[root@linux ~]# cat /etc/man.config | grep 'MAN'| sed 's/#.*$//g' | \
> sed '/^$/d'
# 每一行当中，若有 # 表示该行为批注，但是要注意的是，有时候，
# 批注并不是写在第一个字符，亦即是写在某个指令后方，如底下的模样：
# 『shutdown -h now # 这个是关机的指令』，批注 # 就在指令的后方了。
# 因此，我们才会使用到将 #.*$ 这个正规表示法！
范例八：利用 sed 直接在 ~/.bashrc 最后一行加入『# This is a test』
[root@linux ~]# sed -i '$a # This is a test'
# 上头的 -i 参数可以让你的 sed 直接去修改后面接的档案内容喔！而不是由屏幕输出。
# 至于那个 $a
总之，这个 sed 不错用啦！而且很多的 shell script 都会使用到这个指令的功能～ sed 可以帮助系统管理员管理好日常的工作喔！要仔细的学习呢！
awk 工具简介
相较于 sed 常常作用于一整个行的处理， awk 则比较倾向于一行当中分成数个『字段』来处理。 因此，awk 相当的适合处理小型的数据数据处理呢！awk 通常运作的模式是这样的：
[root@linux ~]# awk '条件类型1{动作1} 条件类型2{动作2} ...' filename awk 可以处理后续接的档案，也可以读取来自前个指令的 standard output 。 但如前面说的， awk 主要是处理『每一行的字段内的数据』，而预设的『字段的分隔符为 "空格键" 或 "[tab]键" 』！举例来说，我们用 last 可以将登入者的数据取出来， 结果如下所示：
[root@linux ~]#lastdmtsai
root
reboot
dmtsai
若我想要取出账号与登入者的 IP ，且账号与 IP 之间以 [tab] 隔开，则会变成这样：
[root@linux ~]# last | awk '{print $1 "\t" $3}'
dmtsai
root
reboot
dmtsai
因为不论哪一行我都要处理，因此，就不需要有 "条件类型" 的限制！我所想要的是第一栏以及第三栏， 但是，第二行及第三行的内容怪怪的～这是因为数据格式的问题啊！所以啰～使用 awk 的时候，请先确认一下您的数据当中，如果是连续性的数据，请不要有空格或 [tab] 在内，否则，就会像这个例子这样，会发生误判喔！
另外，由上面这个例子您也会知道，在每一行的每个字段都是有变量名称的，那就是 $1, $2... 等变量名称，以上面的例子来说， dmtsai 是 $1 ，因为他是第一栏嘛！至于 192.168.1.12 是第三栏， 所以他就是 $3 啦！后面以此类推～呵呵！还有个变数喔！那就是 $0 ，$0 代表『一整列资料』的意思～ 以上面的例子来说，第一行的 $0 代表的就是『dmtsai pts/0.... 』那一行啊！ 由此可知，刚刚上面四行当中，整个 awk 的处理流程是：
- 读入第一行，并将第一行的资料填入 $0, $1, $2.... 等变数当中；
- 依据 "条件类型" 的限制，判断是否需要进行后面的 "动作"；
- 做完所有的动作与条件类型；
- 若还有后续的『行』的数据，则重复上面 1~3 的步骤，直到所有的数据都读完为止。经过这样的步骤，您会晓得， awk 是『以行为一次处理的单位』， 而『以字段为最小的处理单位』。好了，那么 awk 怎么知道我到底这个数据有几行？有几栏呢？这就需要 awk 的内建变量的帮忙啦～
变量名称
代表意义
NF
每一行 ($0) 拥有的字段总数
NR
目前 awk 所处理的是『第几行』数据
FS
目前的分隔字符，预设是空格键
我们继续以上面例子来做说明，如果我想要列出每一行的账号，并且列出目前处理的行数， 并且说明，该行有多少字段，则可以这样 (注意， awk 后续的所有动作以 ' 括住， 所以，内容如果想要以 print 打印时，记得，非变量的文字部分，包含上一小节
printf
提到的格式中，都需要使用双引号来定义出来喔！)
[root@linux ~]# last | awk '{print $1 "\t lines: " NR "\t columes: " NF}'
dmtsailines: 1 columes: 10
rootlines: 2 columes: 9
rebootlines: 3 columes: 9
dmtsailines: 4 columes: 10
这样可以了解 NR 与 NF 的差别了吧？好了，底下来谈一谈所谓的 "条件类型" 了吧！
awk 的逻辑运算字符
既然有需要用到 "条件" 的类别，自然就需要一些逻辑运算啰～例如底下这些：
运算单元
代表意义
>
大于
小于
>=
大于或等于
小于或等于
==
等于
!=
不等于
值得注意的是那个 == 的符号，因为在『逻辑运算』上面， 就是所谓的大于、小于、等于等等的判断式上面，我们习惯上是以 == 来表示，而如果是直接给予一个值，例如变量设定时，就直接使用 = 而已。 好了，我们实际来运用一下逻辑判断吧！举例来说，在 /etc/passwd 当中是以冒号 ":" 来作为字段的分隔，那假设我要查阅，第三栏小于 10 以下的数据，并且仅列出账号与第三栏， 那么可以这样做：
[root@linux ~]# cat /etc/passwd | \
> awk '{FS=":"} $3
root:x:0:0:root:/root:/bin/bash
bin1
daemon2
......(以下省略)......
有趣吧！不过，怎么第一行没有正确的显示出来呢？这是因为我们读入第一行的时候， 那些变数 $1, $2... 预设还是以空格键为分隔的，所以虽然我们定义了 FS=":" 了， 但是却仅能在第二行后才开始生效。那么怎么办呢？我们可以预先设定 awk 的变量啊！ 利用 BEGIN 这个关键词喔！这样做：
[root@linux ~]# cat /etc/passwd | \
> awk 'BEGIN {FS=":"} $3......(以下省略)......
很有趣吧！而除了 BEGIN 之外，我们还有 END 呢！另外，如果要用 awk 来进行『计算功能』呢？以底下的例子来看， 假设我有一个薪资数据表，内容是这样的：
Name1st 2nd 3th
VBird23000 24000 25000
DMTsai21000 20000 23000
Bird243000 42000 41000
如何帮我计算每个人的总额呢？而且我还想要格式化输出喔！ 你可以将上面的数据储存成一个名称为 pay.txt 的档案，则：
[root@linux ~]# cat pay.txt | \
> awk 'NR==1{printf "s s s s s\n",$1,$2,$3,$4,"Total" }
NR>=2{total = $2 + $3 + $4
printf "s d d d .2f\n", $1, $2, $3, $4, total}'
Name 1st 2nd 3th Total
VBird 23000 24000 25000 72000.00
DMTsai 21000 20000 23000 64000.00
Bird2 43000 42000 41000 126000.00
上面的例子有几个重要事项应该要先说明的：
- 所有的动作，亦即在 {} 内的动作，如果有需要多个指令辅助时，可利用分号『;』间隔， 或者直接以 [Enter] 按键来隔开每个指令，例如上面的 NR>=2 后面接的动作， 利用 total = ... 那个指令来指定加总，而后续则以 printf 来格式化输出！
- 逻辑运算当中，如果是『等于』的情况，则务必使用两个等号『==』！
- 格式化输出时，在 printf 的格式设定当中，务必加上 \n ，才能进行分行！
- 与 bash shell 的变量不同，在 awk 当中，变量可以直接使用，不需加上 $ 符号。
printf
来辅助，所以， 最好您对 printf 也稍微熟悉一下比较好啦！另外， awk 的动作内 {} 也是支持 if (条件) 的喔！ 举例来说，上面的指令可以修订成为这样的
[root@linux ~]# cat pay.txt | \
> awk '{if(NR==1) printf "s s s s s\n",$1,$2,$3,$4,"Total"}
NR>=2{total = $2 + $3 + $4
printf "s d d d .2f\n", $1, $2, $3, $4, total}'
原文地址：http://blog.sina.com.cn/s/blog_7fc4c23d0101achi.html
1443
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
