awk
一.简介:
awk 是一种编程语言,用于在linux/unix下对文本和数据进行处理。
数据可以来自标准输入、一个或多个文件,或其它命令的输出。支持用户自定义函数和动态正则表达式等先进功能,是linux/unix下的一个强大编程工具。
在命令行中使用,但更多是作为脚本来使用。
awk的处理文本和数据的方式是这样的,它逐行扫描文件,从第一行到最后一行,寻找匹配的特定模式的行,并在这些行上进行你想要的操作。如果没有指定处理动作,则把匹配的行显示到标准输出(屏幕),如果没有指定模式,则所有被操作所指定的行都被处理。
awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人,分别是Alfred Aho、Brian KernighanPeterWeinberger。
gawk是awk的GNU版本,它提供了Bell实验室和GNU的一些扩展。
二.awk的两种形式语法格式
awk [options] ‘commands’ filenames
awk [options] -f awk-script-file filenames
options:
-F
对于每次处理的内容,可以指定一个子定义的分隔符,默认的分隔符是空白字符(空格或 tab 键 )
command:
BEGIN{} {} END{}
处理所有内容之前的动作 处理内容中的动作 处理所有内容之后的动作
举例:
awk 'BEGIN{print "hello"} {print "^ok"} END{print "hello"}' /etc/passwd
BEGIN{} 通常用于定义一些变量,比如 BEGIN {FS":";OFS="—"}
三.awk的工作原理
awk -F: '{print $1,$3}' /etc/passwd
(以分号为分隔符,打印每行的第一和第三个字符)
(1)awk,会处理文件的每一个行,每次处理时,使用一行作为输入,并将这一行赋给内部变量$0,每一行也可称为一个记录,以换行符结束
(2)然后,行被:(默认为空格或制表符)分解成字段(或称为域),每个字段存储在已编号的变量中,从$1开始,
最多达100个字段
(3)awk如何知道用空白字符来分隔字段的呢? 因为有一个内部变量FS来确定字段分隔符。初始时,FS赋为空白字符
(4)awk打印字段时,将以内置的方法使用 print
函数打印,awk 在打印出的字段间加上空格。这个空格是内部的一个变量 OFS
输出字段的分隔符, 逗号 ,
会和 OFS
进行映射,通过 OFS
可以控制这个输出分隔符的值。
(5)awk输出之后,将从文件中获取另一行,并将其存储在$0中,覆盖原来的内容,然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕。
四.记录与字段相关的内部变量:
$0
: awk变量 $0
保存当前正在处理的行内容
NR
: 当前正在处理的行是 awk 总共处理的行号。不同文件的不同行号。/etc/passwd和./a.sh
FNR
: 当前正在处理的行在其文件中的行号。
NF
:每行被处理时的总字段数
$NF
: 当前处理行的分隔后的最后一个字段
的值
FS
: 输入行时的字段分隔符,默认空格
OFS
: 输出字段分隔符,默认是一个 空格
ORS
输出记录分隔符, 默认是换行符.
awk '{print $0}' /etc/passwd
awk '{print NR}' /etc/passwd h.sh
awk '{print FNR}' /etc/passwd h.sh
awk 'BEGIN{FS=":"}{print NF}' /etc/passwd
awk 'BEGIN{FS="/"}{print $NF}' /etc/passwd
awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd
awk 'BEGIN{FS=":"; OFS="+++"} /^root/{print $1,$2}' /etc/passwd
举例
将文件的每一行合并为一行
ORS默认输出一条记录应该回车,但是这里是加了一个空`
awk 'BEGIN{ORS=" "} {print $0}' /etc/passwd
五.格式化输出
printf函数
awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}' /etc/passwd
awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
awk -F: '{printf "|%-15s| %-10s| %-5.2f\n", $1,$2,$3}' /etc/passwd
%s
字符类型%d
十进制整数%f
浮点类型 .2小数点后保留几位%-15s
占15字符-
表示左对齐,默认是右对齐printf
默认不会在行尾自动换行,加\n
六.awk模式和动作
任何 awk
语句都由 模式 和 动作 组成。
模式部分
决定动作语句何时触发及触发事件。
如果省略模式部分,动作将时刻保持执行状态。
模式可以是任何条件语句或复合语句或正则表达式。
模式可以是正则表达式:
- 将整行进行正则匹配(包含):
就是当前处理的行有没有包含 指定的模式(书写的正则表达式)
/正则/
正则需要写在双斜线内
awk '/^root/' /etc/passwd
awk '$0 ~ /^root/' /etc/passwd
awk '!/root/' /tec/ passwd
awk '$0 !~ /^root/' /etc/passwd
- 将某一字段进行正则匹配:
可以使用的匹配操作符(
~
和!~
)
字段 ~ /正则/
awk -F: '$1 ~ /^root/' /etc/passwd
awk -F: '$NF !~ /bash$/' /etc/passwd
- 实现 字符串的完全相等需要使用
==
字符串需要使用双引号
!=
表示不等于
awk -F: '$NF == "/bin/bash"' /etc/passwd
awk -F: '$1 == "root"' /etc/passwd