awk 命令详解

于 2009-08-05 10:18:00 发布
阅读量1k 收藏
点赞数
分类专栏： linux 文章标签： file 正则表达式 脚本 c date unix
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zistxym/article/details/4410810
版权

1 awk

Gawk 是通常在UNIX系统下使用的另外一个流行的流编辑器 awk 的GNU版本。

1.1 awk 命令

如果程序很短，最方便的是在命令行运行它：

awk PROGRAM inputfile(s)

在已经完成的多个改变，通常在多个文件，很方便把 awk 命令放到脚本当中，读起来像这样：

awk -f PROGRAM-FILE inputfile(s)

1.2 打印选择的域

awk 中的 print 命令把输入文件中选择的数据输出。

当 awk 读取文件的一行，根据指定的 输入域分隔符 把行分开， FS，awk 的一个环境变量。它被预先定义为一个或者多个空格或者制表符。

变量 $1, $2, $3, ..., $N 把输入行的第一第二第三直到最后一个域保存起来。变量 $0 把整行的值保存起来。

ebs_zj@lianlian-dev:~/xym_test> ls -l | awk '{ print $3 " , "  $6}' 

ebs_zj , 2008-11-27
ebs_zj , 2008-11-26
ebs_zj , 2008-11-25
ebs_zj , 2008-11-26
ebs_zj , 2008-11-25
ebs_zj , 2008-11-27

1.3 格式化字符

gawk的格式化字符
转义字符 	含义
/a 	Bell character
/n 	Newline character
/t 	Tab
引用，$和其他元字符应该使用反斜杠来进行转义。

ls -l | awk '{ print $5 "/t"  $6}' ebs_zj@lianlian-dev:~/xym_test> 

4359    2008-11-27
0       2008-11-26
28      2008-11-25
216     2008-11-26
65      2008-11-25

1.4 print命令和正则表达式

awk 'EXPRESSION { PROGRAM }' file(s)

EXPRESSION 可以是正则表达式

ls -l | awk '//<(a|x).*/.conf$/ { print $9 }'

1.5 特殊的patterns

为了在输出之前加上注释，使用BEGIN语句,加上 END 语句能插入文本在整个输入被处理之后.

ebs_zj@lianlian-dev:~/xym_test> ls -l |  awk 'BEGIN { print "/n文件创建时间/n" }  { print $1 "/t" $6 } END { print "/n文件结束/n"}'

文件创建时间

 
总用量
-rw-r--r--      2008-11-27
-rw-r--r--      2008-11-26
-rw-r--r--      2008-11-25
drwxr-xr-x      2008-11-26
 
文件结束

1.6 awk脚本

ebs_zj@lianlian-dev:~/xym_test>df -h | awk -f diskrep.awk

其中diskrep.awk 为已经定义好的脚本。

1.7 输入域分割符

ebs_zj@lianlian-dev:~/xym_test> ls -l |awk   'BEGIN { OFS="%"} {print $1,$2}'
总用量%40
-rw-r--r--%1
-rw-r--r--%1
-rw-r--r--%1
drwxr-xr-x%2

变量名 含义
ARGC 命令行变元个数
ARGV 命令行变元数组
FILENAME 当前输入文件名
FNR 当前文件中的记录号
FS 输入域分隔符，默认为一个空格
RS 输入记录分隔符
NF 当前记录里域个数
NR 到目前为止记录数
OFS 输出域分隔符
ORS 输出记录分隔符 


ebs_zj@lianlian-dev:~/xym_test> ls -l |awk   'BEGIN { OFS="|" ; ORS="/n-->/n"  } {print $1,$2}'
总用量|40
-->

-rw-r--r--|1
-->
-rw-r--r--|1
-->
-rw-r--r--|1
-->

b.txt
-rw-r--r--|1
-rw-r--r--|1
-rw-r--r--|1
-rwx--x--x|1

ebs_zj@lianlian-dev:~/xym_test> awk 'BEGIN { FS="|" } { print $1 "/t" $2 }' b.txt
总用量  40
-rw-r--r--      1
-rw-r--r--      1
-rw-r--r--      1
-rw-r--r--      1

1.8 记录的数量

内建的 NR 包含了处理过的记录的数量。在读入一个新的输入行之后他会自行增加一次。你可以用它来计算记录的总数，或者在每个输出记录中：

1.9 练习

你的输入是按照下列形式的行：

Username:Firstname:Lastname:Telephone number

写一个把这样的行转换成一个如下LDAP记录格式的 awk 脚本：

dn: uid=Username, dc=example, dc=com
cn: Firstname Lastname
sn: Lastname
--------------------------------------------------------
pratice.txt
xym:XYM:xym:123:0104444
wxc:WXC:wxc:456:0205555

答案：
awk.txt
BEGIN {FS=":"} #由于输入的文本格式是：，所以这里用：
{print "dn: uid="$1 ", dc=example, dc=com/n" "cn: "$2 " " $3"/n" "sn: "$3  }

ebs_zj@lianlian-dev:~/xym_test> awk -f awk.txt pratice.txt 

结果：

dn: uid=xym, dc=example, dc=com
cn: XYM xym
sn: xym
dn: uid=wxc, dc=example, dc=com
cn: WXC wxc
sn: wxc

1.10 从网上找一份资料

变量名 含义
ARGC 命令行变元个数
ARGV 命令行变元数组
FILENAME 当前输入文件名
FNR 当前文件中的记录号
FS 输入域分隔符，默认为一个空格
RS 输入记录分隔符
NF 当前记录里域个数
NR 到目前为止记录数
OFS 输出域分隔符
ORS 输出记录分隔符

1、awk '/101/'               file 显示文件file中包含101的匹配行。

   awk '/101/,/105/'         file
   awk '$1 == 5'             file
   awk '$1 == "CT"'          file 注意必须带双引号
   awk '$1 * $2 >100 '       file  

   awk '$2 >5 && $2<=15'     file
2、awk '{print NR,NF,$1,$NF,}' file 显示文件file的当前记录号、域数和每一行的第一个和最后一个域。
   awk '/101/ {print $1,$2 + 10}' file 显示文件file的匹配行的第一、二个域加10。

   awk '/101/ {print $1$2}'  file
   awk '/101/ {print $1 $2}' file 显示文件file的匹配行的第一、二个域，但显示时域中间没有分隔符。
3、df | awk '$4>1000000 '         通过管道符获得输入，如：显示第4个域满足条件的行。
4、awk -F "|" '{print $1}'   file 按照新的分隔符“|”进行操作。

   awk  'BEGIN { FS="[: /t|]" }
   {print $1,$2,$3}'       file 通过设置输入分隔符（FS="[: /t|]"）修改输入分隔符。

   Sep="|"

   awk -F $Sep '{print $1}'  file 按照环境变量Sep的值做为分隔符。   
   awk -F '[ :/t|]' '{print $1}' file 按照正则表达式的值做为分隔符，这里代表空格、:、TAB、|同时做为分隔符。
   awk -F '[][]'    '{print $1}' file 按照正则表达式的值做为分隔符，这里代表[、]
5、awk -f awkfile       file 通过文件awkfile的内容依次进行控制。

   cat awkfile
/101/{print "/047 Hello! /047"} --遇到匹配行以后打印 ' Hello! './047代表单引号。
{print $1,$2}                   --因为没有模式控制，打印每一行的前两个域。
6、awk '$1 ~ /101/ {print $1}' file 显示文件中第一个域匹配101的行（记录）。
7、awk   'BEGIN { OFS="%"}

   {print $1,$2}'           file 通过设置输出分隔符（OFS="%"）修改输出格式。
8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在处理任意行之前进行的操作。
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file 取得文件第一个域的最大值。

   （表达式1?表达式2:表达式3 相当于：
   if (表达式1)
       表达式2
   else
       表达式3
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file  

9、awk '$1 * $2 >100 {print $1}' file 显示文件中第一个域匹配101的行（记录）。
10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file 找到匹配行后先将第3个域替换后再显示该行（记录）。

    awk '{$7 %= 3; print $7}'  file 将第7域被3除，并将余数赋给第7域再打印。
11、awk '/tom/ {wage=$2+$3; printf wage}' file 找到匹配行后为变量wage赋值并打印该变量。
12、awk '/tom/ {count++;}  

         END {print "tom was found "count" times"}' file END表示在所有输入行处理完后进行处理。
13、awk 'gsub(//$/,"");gsub(/,/,""); cost+=$4;
         END {print "The total is $" cost>"filename"}'    file gsub函数用空串替换$和,再将结果输出到filename中。

    1 2 3 $1,200.00
    1 2 3 $2,300.00
    1 2 3 $4,000.00

    awk '{gsub(//$/,"");gsub(/,/,"");
    if ($4>1000&&$4<2000) c1+=$4;

    else if ($4>2000&&$4<3000) c2+=$4;
    else if ($4>3000&&$4<4000) c3+=$4;
    else c4+=$4; }

    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]/n",c1,c2,c3,c4}"' file
    通过if和else if完成条件语句

    awk '{gsub(//$/,"");gsub(/,/,"");
    if ($4>3000&&$4<4000) exit;

    else c4+=$4; }
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]/n",c1,c2,c3,c4}"' file
    通过exit在某条件时退出，但是仍执行END操作。
    awk '{gsub(//$/,"");gsub(/,/,"");
    if ($4>3000) next;

    else c4+=$4; }
    END {printf  "c4=[%d]/n",c4}"' file
    通过next在某条件时跳过该行，对下一行执行操作。


14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall 把file1、file2、file3的文件内容全部写到fileall中，格式为

    打印文件并前置文件名。
15、awk ' $1!=previous { close(previous); previous=$1 }   
    {print substr($0,index($0," ") +1)>$1}' fileall 把合并后的文件重新分拆为3个文件。并与原文件一致。
16、awk 'BEGIN {"date"|getline d; print d}'         通过管道把date的执行结果送给getline，并赋给变量d，然后打印。  

17、awk 'BEGIN {system("echo /"Input your name://c/""); getline d;print "/nYour name is",d,"/b!/n"}'

    通过getline命令交互输入name，并显示出来。
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}'
    打印/etc/passwd文件中用户名包含050x_的用户名。

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通过while语句实现循环。

    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通过for语句实现循环。     
    type file|awk -F "/" '
    { for(i=1;i<NF;i++)

    { if(i==NF-1) { printf "%s",$i }
    else { printf "%s/",$i } }}'               显示一个文件的全路径。
    用for和if显示日期
    awk  'BEGIN {
for(j=1;j<=12;j++)
{ flag=0;

  printf "/n%d月份/n",j;
        for(i=1;i<=31;i++)
        {
        if (j==2&&i>28) flag=1;
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1;
        if (flag==0) {printf "%02d%02d ",j,i}

        }
}
}'
19、在awk中调用系统变量必须用单引号，如果是双引号，则表示字符串
Flag=abcd
awk '{print '$Flag'}'   结果为abcd
awk '{print  "$Flag"}'   结果为$Flag
zistxym
关注
专栏目录
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值