awk编辑器


前言

AWK是一个功能强大的编辑工具,用于在Linux及Unix环境中对文本和数据进行处理。

一、awk工具

1.1 awk概述

AWK 是一种处理文本文件的语言,是一个强大的文本分析工具。
AWK是专门为文本处理设计的编程语言,也是行处理软件,通常用于扫描、过滤、统计汇总工作数据可以来自标准输入也可以是管道或文件。常作为脚本来使用。

1.2 awk工具介绍

功能强大的编辑工具
无交互的情况下实现复杂的文本操作
Awk的两种语法格式:

awk 选项 '模式或条件 {编辑指令}' 文件 1 文件 2 …
awk -f 脚本文件 文件 1 文件 2 …

二、awk工作原理

当读到第一行时,匹配条件,然后执行指定动作,再接着读取第二行数据处理,不会默认输出
如果没有定义匹配条件默认是匹配所有数据行,awk隐含循环,条件匹配多少次动作就会执行多少次。
逐行读取文本,默认以空格或tab键为分隔符进行分隔,将分隔所得的各个字段保存到内建变量中,并按模式或者条件执行编辑命令。

sed命令常用于一整行的处理,而awk比较倾向于将一行分成多个"“字段"然后再进行处理。
awk信息的读入也是逐行读取的,执行结果可以通过print的功能将字段数据打印显示。
在使用awk命令的过程中,可以使用逻辑操作符”
&&“表示"与”、“||表示"或”、"!“表示非”;还可以进行简单的数学运算,如+、一、*、/、%、^分别表示加、减、乘、除、取余和乘方。

三、awk内置变量

变量描述
FS输入字段分隔符,默认为空格或制表位(tab)
OFS输出字段的分割符(默认是空格)
RS输入行分隔符
ORS输出行的分割符,默认为换行符
NF当前处理的行的字段个数
NR当前处理的行的行号(序数)
FNR读取文件的记录行号(从1开始,若读取新的文件依旧是从1开始)
$0当前处理的行的整行内容
$n当前处理行的第n个字段(第n列)

四、案例

4.1基础案例

awk ‘{print}’ passwd.txt 打印所有
在这里插入图片描述

awk ‘{print $1}’ passwd.txt #打印第一列(awk默认把这一行当做一列,因为没有被空格分隔,awk默认以空格或tab键分隔)
在这里插入图片描述
awk -F: ‘{print $1}’ passwd.txt 自定义冒号为分隔符显示分隔之后的第1列

在这里插入图片描述
awk -Fx ‘{print $1}’ passwd.txt用x作为分隔符
在这里插入图片描述
awk -F: ‘{print $1,$2}’ passwd.txt 打印以:为分隔符的一列,二列 ​$1与$2 之间的逗号代表空格
在这里插入图片描述
\t 表示制表符。也是tab键
在这里插入图片描述
awk -F[: /] ‘{print $1,$2}’ passwd.txt 定义两个分隔符,:或者/ 两个有其中一个都算作是分隔符定义两个分隔符
在这里插入图片描述

4.2常用变量

NF  FS  NR  $0  $n  RS的使用举例
 
$1:代表第一列
 
$2:代表第二列以此类推
 
$0:代表整行
 
NF:一行的列数
 
NR:行数

RS:输入行分隔符 
awk -F: '/root/{print $0}' passwd.txt    #打印包含root的整行内容
awk -F: '/root/{print $1}' passwd.txt    #打印包含root的行的第一列
awk -F: '/root/{print $1,$6}' passwd.txt #打印包含root的行的第一列和第六列
awk -F: '/\!/{print $1}' /etc/shadow     #输出shadow文件中以冒号分隔的有感叹号的行的第一列
awk -F[ :/] '{print NF}'  passwd.txt     #打印文件每一行以:或/为分割的列数
awk -F: '{print NF,$0}' passwd.txt       #打印passwd.txt文件每一行以:分割的列数及每行的内容
awk -F: '{print $NF}' passwd.txt         #打印passwd.txt文件每一行以:分割的最后一列
awk     '{print NR}' passwd.txt          #只显示每一行行号
awk     '{print NR,$0}' passwd.txt          #在每行前面加上行号

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

awk 'END{print NR}'  /etc/passwd         #打印总行数
 
awk 'END{print $0 }' /etc/passwd         #打印文件最后一行
 
awk -F: '{print "当前行有"NF"列"}' /etc/passwd   #打印当前行以:分割的总共有几列
 
awk -F: '{print "第"NR"行有"NF"列" }'/etc/passwd    #第几行有几列

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.3生产实例:网卡的ip、流量

ifconfig ens33 | awk ' /netmask/{print "本机的ip地址是"$2}'
ifconfig ens33 | awk '/RX p/{print $5"字节"}'
df -h l awk 'NR==2{print $4 }'    #根分区的可用量,打印行号为2的第4列,df -h文件系统的磁盘空间占用情况

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.4BEGIN、END

逐行执行开始之前执行什么任务,结束之后再执行什么任务,用BEGIN、END

BEGIN一般用来做初始化操作,仅在读取数据记录之前执行一次

END一般用来做汇总操作,仅在读取完数据记录之后执行一次

awk的运算:

awk 'BEGIN{x=10;print x}’   #如果不用引号awk就当作一个变量来输出了,所以不需要加$了
awk 'BEGIN{x=10;print x+1}'
BEGIN在处理文件之前,所以后面不跟文件名也不影响
awk 'BEGIN{x=10;x++; print x}'
awk 'BEGIN{print x+1}’
不指定初始值,初始值就为0,如果是字符串,则默认为空
awk 'BEGIN{print 2.5+3.5}'
小数也可以运算
awk 'BEGIN{ print 2-1}"
awk "BEGIN{print 3*4 } "
awk 'BEGIN{ print 3**2}'9
awk 'BEGIN{print 2^3}'       ^和**都是幂运算
awk 'BEGIN{print 1/2}" 

4.5模糊匹配,用表示包含,!表示不包含

awk -F: '$1~/root/' /etc/passwd     #文件中以:分割的第一列包含root的
awk -F: '$1~/ro/' /etc/passwd       #模糊匹配,只要有ro就匹配上
awk -F: '$7!~/nologin$/{print $1,$7}" /etc/passwd   
文件中以:分割的第7列不包含nologin的 第一列和第七列打印出来

4.6关于数值与字符串的比较

比较符号: = != => <= > <

awk  'NR==5{print} ‘  /etc/passwd  打印文件第5行
awk  'NR<5{print}/etc/passwd   打印文件小于第5行的,1-4行
 
awk -F: '$3==0' /etc/passwd
awk -F: '$1=-root' /etc/passwd
awk -F: '$1=="root"' /etc/passwd
精确匹配一定是root
awk -F: "$3>=1000' /etc/passwd

4.7逻辑运算

&& ll

awk -F: '$3<10 || $3>=1000' /etc/passwd
 
awk -F: '$3>10 && $3<1000' /etc/passwd 
 
awk -F: 'NR>4 && NR<10' /etc/passwd

案列:

seq 200 |awk ‘$1%7==0 && $1~/7/’
打印1-200之间所有能被7整除并且包含数字7的整数数字

4.8 内置变量的用法FS、OFS、NR、FNR、RS、ORS

awk 'BEGIN{FS=": "} {print $1}' pass.txt
在打印之前定义字段分隔符为冒号  等于 awk -F:  ‘{print $1}’ pass.txt
 
awk 'BEGIN{FS=": ";OFS="---"} {print $1,$2}' pass.txt
OFS定义了输出时以什么分隔,$1$2中间要用逗号分隔,因为逗号默认被映射为OFS变量,而这个变量默认是空格
 
awk '{print FNR,$0}' /etc/resolv.conf  /etc/hosts
可以看出FNR的行号在追加当有多个文件时
 
awk 'BEGIN{RS=":"{print $0}' /etc/passwd
/RS;指定以什么为换行符,这里指定是冒号,你指定的肯定是原文里存在的字符
 
awk  'BEGIN{ORS= " "} {print $0}' /etc/passwd
ORS把多行合并成一行输出,输出的时候自定义以空格分隔每行,本来默认的是回车键

当被黑客攻击时,索取大量的ip地址筛选,要求我查上午8:00到10点之间所有访问的ip地址,通过运维 我去追踪他,可以去公安局报警【去日志里面查】【awk:日志文件不是冒号就是反斜杠 还要去重 wc -l去查有多少行】

五、awk的高级用法

5.1 定义引用变量

a=100
awk -v b="$a” 'BEGIN{print b}’
将系统的变量a,在awk里赋值为变量b,然后调用变量b
awk 'BEGIN{print "'$a'"}'
//直接调用的话需要先用双引号再用单引号
awk -v c=1 'BEGIN{print c}'
//awk直接定义变量并引用

5.2调用函数

调用函数getline,读取一行数据的时候并不是得到当前行而是当前行的下一行

当getline左右无重定向符"<“或"I"时,awk首先读取到了第一行,就是1,然后getline,就得到了1下面的第二行,就是2,因为getline之后,awk会改变对应的NE,NR,FNR和%0等内部变量,所以此时的$0的值就不再是1,而是2了,然后将它打印出来。当getline左石有重定向符”<“或”"I"时,getline则作用于定向输入文件,由于该文件是刚打开,

并没有被awk读入一行,只是getline读入,那么getline返回的是该文件的第一行,而不是隔行。

df -h / awk 'BEGIN{getline}/root/{print $0 }' /dev/mapper/centos-root 
50G    5.2G   45G    11%/
 
seq 10 | awk ' { getline;print $0}'   //显示偶数行
 seq 10 | awk '{print $0;getline)'   //显示奇数行

5.3调用语句

if语句:awk的if语句也分为单分支、双分支和多分支

单分支为if (){ }

双分支为if (){ }else{ }

多分支为if (){ }else if (){ }else{ }

awk -F: '{if($3<10){print $0}}' /etc/passwd   //第三列小于10的打印整行
awk -F: '(if($3<10)(print $3}else{print $1}}'/etc/passwd 
//第三列小于10的打印第三列,否则打印第一列

awk还支持for循环、while循环、函数、数组等其他

awk 'BEGIN{x=0};/\/bin\/bash$/{x++;print x,$0};END{print x}' /etc/passwd
统计以/ bin/ bash结尾的行数,等同于grep -c  "/bin/bash" /etc/passwd

BEGIN模式表示,在处理指定的文木之前,需要先执行BEGIN模式中指定的动作;awk再处理指定的文木,之后再执行END模式中指定的动作,END{}语句块中,往往会放入打印结果等语句

awk -F ":" '!($3<200){print}' /etc/passwd   #输出第3个字段的值不小于200的行
 
awk 'BEGIN{FS=":"};{if($3>=1000){print}}' /etc/passwd
先处理完BEGIN的内容,再打印文木里面的内容
 
 
awk -F":" '{max=($3>=$4)  ?$3:$4; {print max)}}' /etc/passwd(了解)
 
($3>$4) ?$3:$4三元运算符,如果第3个字段的值大于等于第4个字段的值,则把第3个字段的值赋给max,否则第4个字段的值赋给max
 
awk -F ":” ' (print NR,$0 )' /etc/passwd #输出每行内容和行号,每处理完一条记录NR值加1
sed -n '=;P' /etc/passwd
awk -F ":" '$7~"bash"{print  $1,$7}' /etc/passwcd
#输出以冒号分隔且第7个字段中包含/bash的行的第1个字段
awrk -F:  ‘/ bash/{print  $1}" /etc/passwed
 
awk -F":" "($1~"root") &&(NF==7){print $1,$2,$NF} ' /etc/passwd
第1个字段中包含root且有7个字段的行的第1、2个字段
awk -F ":" "($7!="/bin/bash") & &($7!="/sbin/nologin") {print} ' /etc/passwd
输出第7个字段既不为/bin/bash,也不为/sbin/nologin的所有行
awk -F: '($NF !="/bin/bash")&&($NF !=”/sbin/nologin" ) {print NR,$0 }' passwd

5.4通过管道、双引号调用shell 命令

echo $PATH | awk 'BEGIN{RS=":"};END {print NR}#统计以冒号分隔的文本段落数,END语句块中,往往会放入打印结果等语句

echo $PATH|awk ‘BEGIN{RS=“:”};{print NR,$0};END{print NR}’
在这里插入图片描述

awk -F: '/bash$/{print | "wc -l")' /etc/passwd
#调用wc -l命令统计使用bash 的用户个数,等同于grep -c "bash$" /etc/passwd
awk -F: ‘/ bash$/ {print}' pasawd l wc -l

1.查看内存

free -m l awk '/Mem:/ {print int($3/($3+$4)*100)“%”)′

2.查看当前内存使用百分比

free -m / awk ' /Mem:/ {print $3/$2)'

free -m|awk ‘/Mem:/ {print $3/$2*100}'
free -m | awk '/Mem:/{print $3/$2*100}' | awk -F. '{print $1"%"}'
比较后取整

在这里插入图片描述

3.查看CPU利用率

top -b -n 1 l grep Cpu | awk -F, {print $4}’ l awk '{print $1}′

#查看当前cPv空闲率,(-b -n1表示只需要1次的输出结果)

4.查看时间

last 是你关机或重启的记录,last | tail -1 是最后一次关机或重启的时间;
开机时间记录在/proc/uptime中可用
date -d “$(awk -F. ‘{print $1}’ /proc/uptime) second ago” +“%Y-%m-%d %H:%M:%S”
来查看开机时间,和运行时间。(+号前面有空格)

5.调用w命令,并用来统计在线用户数

awk ‘BEGIN {n=0; while (“w” | getline) n++ ; {print n-2}}’
在这里插入图片描述
6.调用hostname,并输出当前的主机名

awk 'BEGIN { “hostname” l getline ; {print $0}}
7.CPU使用率

CPU使用率
 
cpu_us=`top -b -n 1 l grep Cpu | awk '{ print $2}`
 
cpu_sy=`top -b -n 1 | grep Cpu | awk -F, '{print $2}' | awk '{print $1}'`
 
cpu_sum=$ (($cpu_us+$cpu_sy))
 
echo $cpu_sum

5.5 套用数组

echo "A B C D" l awk '{OFS="I"; print $0;$1=$1 ;print $0} '  

在这里插入图片描述
​$1-$1是用来激活$0的重新赋值,也就是说字段$1…和字段数NF的改变会促便awk重新计算$0的值,通常是在改变OFS后而需要输出$0时这样做
在这里插入图片描述

awk ‘BEGIN{a[0]=10;a[1]=20; print a[1]}’
 
awk 'BEGIN{a[o]=10;a[1]=20; print a[o]'
 
awk 'BEGIN{a[ "abc"]=10; a["xyz"]=20;print a ["abc"]}'
 
awk 'BEGINia [ "abc"]=10;a ["xyz"]=20; print a["xyz"]}’
 
awk 'BEGIN{a ["abe"]="aabbcc"; a["xyz"]="xyyzz" ; print a ["xyz"]}'
 
awk 'BEGIN{a[0]=10;a[1]=20;a[2]=30;for(i in a){print i,a[i]}}'

在这里插入图片描述

​PS1:BEGIN中的命令只执行一次

PS2: awk数组的下标除了可以使用数字,也可以使用字符串,字符串需要使用双引号

使用awk统计httpd访问日志中每个客户端IP的出现次数

awk ‘(ip[$1]++);END{for(i in ip){print ip[i],i}}’ /var/log/httpd/access_log

备注:定义数组,数组名称为ip,数字的下标为日怎文件的第1列(也就是客户A的i?地址),+t的目的在于对客户端进行统计计数,客户端IP出现―次计数器就加i。END中的指令在读取完文件后执行,通过循环将所有统计信息输出,for循环遍历的是数组名ip的下标。

5.6 脚本编写

 #!/bin/ bash
x='awk '/Failed password/{ip[$11]++};END{for(i in ip) (print i","ip[i]}}/var/log/secure'
#190.168.80.13 3
for j in $x
do
ip= "echo $j l awk -F ", " '{print $1}"
num="echo $j l awk -F ", " '{print $2} "
if[ $num -ge 3 ];then
echo“警告$ip访问本机失败了$num次,请速速处理!”
fi
done
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

搞什么滚去学习

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值