一、概述
AWK是一种处理文本文件的语言,是一个强大的文件分析工具。
它是专门为文本处理设计的编程语言,也是行处理软件,通常用于扫描,过滤,统计汇总等工作,数据可以来自标准输入也可以是管道或文件。
1、awk工作原理
- 当读到第一行时,匹配条件,然后执行指定动作,在接着读取第二行数据处理,不会默认输出。
- 如果没有定义匹配条件,则是默认匹配所有数据行,awk隐含循环,条件匹配多少次,动作就会执行多少次。
- 逐行读取文本,默认以空格或tab键为分割符进行分割,将分割所得的各个字段,保存到内建变量中,并按模式或或条件执行编辑命令。
二、格式
格式1: awk 【选项】 '模式或条件{操作} ' 文件名
格式2: awk -f 脚本文件 文件名
1、awk包含几个特殊的内建变量(可直接用)如下所示
- 置变量 功能
- NF 当前处理的行的字段个数(就是:有多少列)
- NR 当前处理的行的行号(就是:有多少行)
- FNR 读取文件的记录数(行号),从1开始,新的文件重新从1开始计数
- $0 当前处理的行的整行内容(就是:表示一行的内容)
- $n 当前处理行的第n个字段(就是:第n列)
- FILENAME 被处理的文件名
- FS 指定每行的字段分隔符,默认为空格或制表位(相当于选项 -F )
- OFS 输出字段的分隔符,默认也是空格
- RS 行分割符。awk从文件上读取资料时,将根据Rs的定义把资料切割成许多条记录,而awk一次仅读取一条记录,预设值是“\n“
- ORS 输出分割符,默认也是换行符
三、内置变量演示
1、【$n】进行演示
n为数字,数字为及就表示第几列
案例1:结合print进行输出,默认分隔符。
案例2:设定分割符号
案例3:输出时,显示列的空格
案例4:两列之间插入制表符
案例5:设置多个分割符
2、【$0】的演示
$0表示整行
3、【NF】(多少列) 和 【NR】(多少行)的演示
NR:表示该处理的行序号是多少
NF:表示该处理的行,有多少列
案例1:打印每一行的列数
案例2:显示行号
案例3:显示行号,并显示每一行的内容
案例4:打印第二行,不加print也一样,默认就是打印
案例5:打印第二行的第一列
案例6:打印最后一列
案例7:打印总行数
案例8:打印文件最后一行
案例9:加上文字描述行数和列数
4、面试题
案例1:查看本机的ip地址多少,截取出来
案例2:查看本机流量有多少字节
案例3:查看根分区的可用量
5、BEGIN开始和END结尾
逐行执行开始之前执行什么任务,结束之后再执行什么任务,用BEGIN、END。
- BEGIN:一般用来做初始化操作,仅在读取数据记录之前执行一次
- END:一般用来做汇总操作,仅在读取完数据记录之后执行一次
案例1:在打印之前定义字段分割符为冒号
案例2:OFS定义了输出时以什么分隔,$1$2中间要用逗号分隔,因为逗号默认被映射为OFS变量,而这个变量默认是空格
案例2:可以看到当有多个文件时,序号会分别标好每一个文件内容的行号,不同文件会从头开始。(NR会连续在一起)
案例3:RS:指定以什么为换行符,这里指定是冒号,你指定的必须是原文里存在的字符
案例4:把多行合并成一行输出,输出的时候自定义以空格分隔每行,本来默认的是回车键
6、模糊匹配
精确匹配: 可以将要匹配的内容加上双引号。
用~表示包含,用!~表示不包含
7、关于数值与字符串的比较
加上逻辑运算: && ||
案例:打印1-200之间所有能被7整除并且包含数字7的整数数字
四、总结
awk常用操作是提取转换文本文件内容,awk功能十分强大,几乎其它文本处理命令能做的,awk都能做。
此处主要介绍awk的几种内置变量。
$n:表示截取哪一列,通常和print一起使用
$0:表示整行内容
NF:表示该行有多少列
NR:表示该行的行号
FNR:表示读取两个文件时,序号会分别从0开始标
FS:表示读取文件的分隔符(默认空格)
OFS:表示输入的内容以什么为分割符(默认空格)
RS:表示读取文件的以什么为换行符(默认\n)
ORS:表示输出的内容以什么为换行符(默认\n)
~:表示包含
!~:表示不包含