Day 36 shell三剑客

最新推荐文章于 2024-06-12 15:58:20 发布
最新推荐文章于 2024-06-12 15:58:20 发布
阅读量758 收藏 9
点赞数 24
文章标签： linux 运维 正则表达式
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xlv133922/article/details/139071123
版权

一：非交互式编辑器Sed

1.sed介绍

image-20230408155357663

​ sed 是一种在线的、非交互式的编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出；Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等

2.语法格式
sed [options]  'command' in_file[s]

options部分

	-n   静默输出(不打印默认输出) sed -n '1p' a.txt   想显示第几行就显示第几行	
	
	-e  给予sed多个命令的时候需要-e选项
		#sed -e 's/root/haha/g' -e 's/bash/wwwww/g' passwd > passwd.bak		
		如果不用-e选项也可以用分号“;”把多个命令隔开。
		#sed 's/haha/ro/g ; s/wwwww/kkkk/g' passwd | less	这个是-e的结果
	
	-i  -i后面没有扩展名的话直接修改文件，如果有扩展名备份源文件，产生以扩展名结尾的新文件
	    	#sed -iback1 -e 's/root/rottt/g' -e 's/bash/wwwww/g' passwd      //选项-i后面没有空格	
		[root@localhost 桌面]# ls
		manifest.txt  passwdback1 	
	
	-f  当有多个要编辑的项目时，可以将编辑命令放进一个脚本里，再使用sed搭配-f选项
		[root@localhost 桌面]# cat s.sed
		s/bin/a/g
		s/ftp/b/g
		s/mail/c/g
		[root@localhost 桌面]# sed -f s.sed passwd | less
	
	-r  拓展正则

注意：

​ 基本正则 sed

​ 扩展正则 sed -r 无论是扩展正则还是基本正则，全部加r参数

​ 需要修改文件内容，一定使用 -i ，一般 -i 和 -r 联用

command部分

    p   打印行 1p 输出再打印一遍第一行 1~2 打印奇数 0~2打印偶数	
    
    d  删除文本
        sed '1 d' passwd     //删除第一行
        sed '$ d' passwd     //删除最后一行
        sed '1,3 d' passwd   //删除第一行到第三行
        sed '/^sync/  d' passwd   //删除以sync开头的行
        sed '1,/^sync/  d' passwd    //删除第一行到以sync开头的行
    
    a  追加文本(后)
        sed '$ a nihao' passwd    //在文件末尾追加文本 等价于  echo "nihao" >> passwd
        sed '2 a nihao' passwd    //在文件第二行后追加文本
        sed '/^sync/ a nihao' passwd  //在文件以sync开头的行后追加文本
    
    i    前插
        sed -i '1 i nihao' passwd   //在文件第一行前追加文本
    
    c   整行替换 sed '/zhong/c abc' 将zhong这一行替换成abc
        sed -i '1 c no' passwd
        
    s   部分替换
        sed 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/sysconfig/selinux
        //将 /etc/sysconfig/selinux 文件中的所有 SELINUX=enforcing 替换成 SELINUX=disabled
3.sed案例
1. sed可以从stdin中读取内容
$ cat filename | sed 's/pattern/replace_string/'

2. 选项-i会使得sed用修改后的数据替换原文件
$ sed -i 's/pattern/replace_string/' filename

3. g标记可以使sed执行全局替换
$ sed 's/pattern/replace_string/g' filename

4. g标记可以使sed匹配第N次以后的字符被替换
$ echo "thisthisthisthis" | sed 's/this/THIS/2g'  //从第2次this开始全局替换

5. sed中的分隔符可以替换成别的字符, 因为s标识会认为后面的字符为分隔符
$ sed 's:text:replace_text:'
$ sed 's|text|replace_text|'

6. sed可以利用指令来删除文件中的空行（^$）
$ sed '/^$/d' filename

7. 替换指定的字符串或数字
$ cat sed_data.txt
11 abc 111 this 9 file contains 111 11 99 numbers 0000
$ sed -i 's/\b[0-9]\{3\}\b/NUMBER/g' sed_data.txt  
//[0-9]{3} 匹配三个字符且字符是0-9任意值的数字，由于{}是拓展正则，但是命令没有加 -r，所以需要使用\将{}变为基本正则
// \b是开始符和结束符
$ cat sed_data.txt
11 abc NUMBER this 9 file contains NUMBER 11 99 numbers 0000

8. 由于在使用-i参数时比较危险, 所以我们在使用i参数时在后面加上.bak就会产生一个备份的文件,以防后悔
$ sed -i.bak 's/pattern/replace_string/' filename

二：文本处理awk

1.awk介绍

​ awk 是一种编程语言，用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是Alfred Aho、Brian Kernighan、Peter Weinberger。gawk是awk的GNU版本，它提供了Bell实验室和GNU的一些扩展

2.语法格式
awk [options] 'commands' filenames

options部分

POSIX options:          GNU long options: (standard)
        -f progfile             --file=progfile	       指定awk脚本文件
        -F fs                   --field-separator=fs   定义输入字段分隔符，默认的分隔符是空格或制表符(tab)
        -v var=val              --assign=var=val	   定义变量并赋值

command部分

awk BEGIN{} （匹配条件表达式） {} END{} 文件
    BEGIN{}                 {} END{}
    行处理前              行处理 行处理后
    匹配条件表达式可以是对记录中的某个字段进行限制，并且支持正则

​ BEGIN{} 所有文本内容读入之前要执行的命令 可以不需要后面跟文件，因为他是在读入文件之前的操作

​ {} 主输入循环 读入一行命令执行一次循环

​ END{} 所有文本都读入完成之后执行的命令 必须要读入文件，因为他是在读入文件之后的操作

案例：

# awk 'BEGIN{print 1/2} {print "ok"} END{print "-----------"}' /etc/hosts
0.5
ok
ok
ok
-----------

BEGIN{}     通常用于定义一些变量，例如BEGIN{FS=":";OFS="---"}

常用案例：

awk 'pattern' filename					    示例：awk -F: '/root/' /etc/passwd		
awk '{action}' filename					    示例：awk -F: '{print $1}' /etc/passwd			
awk 'pattern {action}' filename		    	示例：awk -F: '/root/{print $1,$3}' /etc/passwd		
										    示例：awk 'BEGIN{FS=":"} /root/{print $1,$3}' /etc/passwd
command |awk 'pattern {action}'             示例：df -P| grep  '/' |awk '$4 > 25000 {print $4}'
3.工作原理
[root@xingdiancloud ~]# awk -F: '{print $1,$3}' /etc/passwd
(1)awk使用一行作为输入，并将这一行赋给内部变量$0，每一行也可称为一个记录，以换行符结束

root   :   x  :  0  :   0  :  root :  /root   :  /bin/bash
1           2     3      4      5          6          7
(2)然后，行被:（默认为空格或制表符）分解成字段（或域），每个字段存储在已编号的变量中，从$1开始，最多达100个字段

(3)awk如何知道用空格来分隔字段的呢？ 因为有一个内部变量FS来确定字段分隔符。初始时，FS赋为空格

(4)awk打印字段时，将以设置的方法使用print函数打印，awk在打印的字段间加上空格，因为$1,$3之间有一个逗号。逗号比较特殊，它映射为另一个内部变量，称为输出字段分隔符OFS，OFS默认为空格

(5)awk输出之后，将从文件中获取另一行，并将其存储在$0中，覆盖原来的内容，然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕
4.内建变量
$0：	    awk变量$0保存当前记录的内容				                
[root@xingdiancloud ~]# awk '{print $0}' /etc/passwd
//$0中保存当前行（记录），在{}中循环执行，打印每一行的内容

NR：	    The total number of input records seen so far.		
[root@centos-2 ~]# awk '{print NR,$0}' /root/TUSAI /etc/hosts
//NR记录了当前行的行号，且处理多个文件时不会重置行号,在{}中循环执行打印每一行的行号（NR）和行内容
1 96+5fe98r5rde56wefds6f589we
2 d62wsd695wed32sc9we5f2we6df+ed56s2
3 5dws15we4d56ew1d89ew4d65dws
4 dsw41894ws56c4ws894c563sd65s2c56+wds
5 d56wqe2d65asd2c69+8ewd5d6+ws2d9+
6 127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
7 ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

[root@centos-2 ~]# awk 'NR==5{print NR,$0}' /etc/passwd
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
//匹配行号（NR）为5时的行，并打印行号（NR）和行内容（$0）

FNR：   The input record number in the current input file    
[root@centos-2 ~]# awk '{print FNR,$0}' /root/TUSAI /etc/hosts
//FNR也会记录当前行的行号，但是处理多个文件时，会根据文件的变化重置行号
1 96+5fe98r5rde56wefds6f589we
2 d62wsd695wed32sc9we5f2we6df+ed56s2
3 5dws15we4d56ew1d89ew4d65dws
4 dsw41894ws56c4ws894c563sd65s2c56+wds
5 d56wqe2d65asd2c69+8ewd5d6+ws2d9+
1 127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
2 ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

NF：保存每条记录的字段数，$1,$2...$100			 
[root@centos-2 ~]# awk -F + '{print $0,NF}' /root/TUSAI 
96+5fe98r5rde56wefds6f589we 2
d62wsd695wed32sc9we5f2we6df+ed56s2 2
5dws15we4d56ew1d89ew4d65dws 1
dsw41894ws56c4ws894c563sd65s2c56+wds 2
d56wqe2d65asd2c69+8ewd5d6+ws2d9+ 4

FS：输入字段分隔符，默认空格					 
[root@xingdiancloud ~]# awk -F: '/alice/{print $1, $3}' /etc/passwd
[root@xingdiancloud ~]# awk -F'[ :\t]' '{print $1,$2,$3}' /etc/passwd	
[root@xingdiancloud ~]# awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd

OFS：输出字段分隔符				 
[root@xingdiancloud ~]# awk -F: '/alice/{print $1,$2,$3,$4}' /etc/passwd
[root@xingdiancloud ~]# awk 'BEGIN{FS=":"; OFS="+++"} /^root/{print $1,$2,$3,$4}' passwd

RS        The input record separator, by default a newline.   默认是回车
[root@xingdiancloud ~]# awk -F: 'BEGIN{RS=" "} {print $0}' a.txt

ORS      The output record separator, by default a newline. 
[root@xingdiancloud ~]# awk -F: 'BEGIN{ORS=""} {print $0}' passwd

注意：

​ 行号：

​ NR：记录了当前记录（行）的行号，且处理多个文件时不会重置行号

​ FNR：也会记录当前记录（行）的行号，但是处理多个文件时，会根据文件的变化重置行号

​ 字段数：

​ NF：列数，记录了当前记录（行）以指定符号分割字段后的字段数

​ 字段分隔符：通常放在BEGIN{}中

​ FS：输入字段分隔符，指定以何种符号分割一行数据，默认为空格

​ OFS：输出字段分隔符，指定以何种符号连接每个字段，默认为空格

​ 记录分隔符: 通常放在BEGIN{}中

​ RS ：输入记录（行）分隔符，指定以何种符号分割每行，默认为换行符（回车）

​ ORS：输出记录（行）分隔符，指定以何种符号连接每行，默认为换行符（回车）

案例：

[root@xingdiancloud ~]# awk 'BEGIN{ORS=" "} {print $0}' /etc/passwd                 
#将文件每一行合并为一行
ORS默认输出一条记录应该回车，加了一个空格

[root@xingdiancloud ~]# head -1 /etc/passwd > passwd1
[root@xingdiancloud ~]# cat passwd1 
root:x:0:0:root:/root:/bin/bash
[root@xingdiancloud ~]# 
[root@xingdiancloud ~]# awk 'BEGIN{RS=":"} {print $0}' passwd1 
root
x
0
0
root
/root
/bin/bash

[root@xingdiancloud ~]# awk 'BEGIN{RS=":"} {print $0}' passwd1 |grep -v '^$' > passwd2
5.格式化输出

print函数

[root@xingdiancloud ~]# date |awk '{print "Month: " $2 "\nYear: " $NF}'
[root@xingdiancloud ~]# awk -F: '{print "username is: " $1 "\t uid is: " $3}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{print "\tusername and uid: " $1,$3 "!"}' /etc/passwd

printf函数

[root@xingdiancloud ~]# awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}'  /etc/passwd
[root@xingdiancloud ~]# awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd

%s 字符类型
%d 数值类型
%f 浮点类型
占15字符
- 表示左对齐，默认是右对齐
printf默认不会在行尾自动换行，加\n
6.awk模式和动作

​ 任何awk语句都由模式和动作组成。模式部分决定动作语句何时触发及触发事件。处理即对数据进行的操作。如果省略模式部分，动作将时刻保持执行状态。模式可以是任何条件语句或复合语句或正则表达式。模式包括两个特殊字段 BEGIN和END。使用BEGIN语句设置计数和打印头。BEGIN语句使用在任何文本浏览动作之前，之后文本浏览动作依据输入文本开始执行。END语句用来在awk完成文本浏览动作后打印输出文本总数和结尾状态

模式

​ 正则表达式

匹配记录（整行）：~匹配
[root@xingdiancloud ~]# awk '/^alice/'  /etc/passwd
[root@xingdiancloud ~]# awk '$0 ~ /^alice/'  /etc/passwd
[root@xingdiancloud ~]# awk '!/alice/' passwd
[root@xingdiancloud ~]# awk '$0 !~ /^alice/'  /etc/passwd

匹配字段：匹配操作符（~ !~）
[root@xingdiancloud ~]# awk -F: '$1 ~ /^alice/'  /etc/passwd
[root@xingdiancloud ~]# awk -F: '$NF !~ /bash$/'  /etc/passw

​ 比较表达式

​ 比较表达式采用对文本进行比较，只有当条件为真，才执行指定的动作。比较表达式使用关系运算符，用于比较数字与字符串

运算符			  含义						    示例
<				  小于						    x<y
<=				  小于或等于			            x<=y
==				  等于						    x==y
!=				  不等于					        x!=y
>=				  大于等于				        x>=y
>				  大于						    x>y

[root@xingdiancloud ~]# awk -F: '$3 == 0' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$3 < 10' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$NF == "/bin/bash"' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$1 == "alice"' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$1 ~ /alic/ ' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$1 !~ /alic/ ' /etc/passwd
[root@xingdiancloud ~]# df -P | grep  '/' |awk '$4 > 25000'

​ 条件表达式

[root@xingdiancloud ~]# awk -F: '$3>300 {print $0}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{ if($3>300) {print $0} }' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd

​ 算术运算

+ - * / %(模) ^(幂2^3)

[root@xingdiancloud ~]# awk -F: '$3 * 10 > 500' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{ if($3*10>500){print $0} }' /etc/passwd

​ 逻辑操作符和复合模式

&&			逻辑与		a&&b
||			逻辑或		a||b
!			逻辑非		!a   除了这个以外的

[root@xingdiancloud ~]# awk -F: '$1~/root/ && $3<=15' /etc/passwd
[root@xingdiancloud ~]# awk -F: '$1~/root/ || $3<=15' /etc/passwd
[root@xingdiancloud ~]# awk -F: '!($1~/root/ || $3<=15)' /etc/passwd
示例
[root@xingdiancloud ~]# awk '/west/' datafile
[root@xingdiancloud ~]# awk '/^north/' datafile
[root@xingdiancloud ~]# awk '$3 ~ /^north/' datafile
[root@xingdiancloud ~]# awk '/^(no|so)/' datafile
[root@xingdiancloud ~]# awk '{print $3,$2}' datafile

[root@xingdiancloud ~]# awk '{print $3 $2}' datafile
[root@xingdiancloud ~]# awk '{print $0}' datafile
[root@xingdiancloud ~]# awk '/northeast/{print $3,$2}' datafile
[root@xingdiancloud ~]# awk '/E/' datafile

[root@xingdiancloud ~]# awk '/^[ns]/{print $1}' datafile
[root@xingdiancloud ~]# awk '$5 ~ /\.[7-9]+/' datafile
[root@xingdiancloud ~]# awk '$2 !~ /E/{print $1,$2}' datafile
[root@xingdiancloud ~]# awk '$3 ~ /^Joel/{print $3 " is a nice boy."}' datafile
[root@xingdiancloud ~]# awk '$8 ~ /[0-9][0-9]$/{print $8}' datafile

[root@xingdiancloud ~]# awk '$4 ~ /Chin$/{print "The price is $" $8 "."}' datafile
[root@xingdiancloud ~]# awk '/Tj/{print $0}' datafile
[root@xingdiancloud ~]# awk '{print $1}' /etc/passwd		
[root@xingdiancloud ~]# awk -F: '{print $1}' /etc/passwd
[root@xingdiancloud ~]# awk '{print "Number of fields: "NF}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{print "Number of fields: "NF}' /etc/passwd
[root@xingdiancloud ~]# awk -F"[ :]" '{print NF}' /etc/passwd
[root@xingdiancloud ~]# awk -F"[ :]+" '{print NF}' /etc/passwd  
[root@xingdiancloud ~]# awk '$7 == 5' datafile
[root@xingdiancloud ~]# awk '$2 == "CT" {print $1, $2}' datafile
[root@xingdiancloud ~]# awk '$7 != 5' datafile

[root@xingdiancloud ~]# cat b.txt 
xingdian sheng:is a::good boy!
[root@xingdiancloud ~]# awk '{print NF}' b.txt 
4
[root@xingdiancloud ~]# awk -F: '{print NF}' b.txt 
4
[root@xingdiancloud ~]# awk -F"[ :]" '{print NF}' b.txt 
7
[root@xingdiancloud ~]# awk -F"[ :]+" '{print NF}' b.txt 
6

[root@xingdiancloud ~]# awk '$7 < 5 {print $4, $7}' datafile                      #{if($7<5){print $4,$7}}
[root@xingdiancloud ~]# awk '$6 > 9 {print $1,$6}' datafile
[root@xingdiancloud ~]# awk '$8 <= 17 {print $8}' datafile
[root@xingdiancloud ~]# awk '$8 >= 17 {print $8}' datafile
[root@xingdiancloud ~]# awk '$8 > 10 && $8 < 17' datafile

[root@xingdiancloud ~]# awk '$2 == "NW" || $1 ~ /south/ {print $1, $2}' datafile
[root@xingdiancloud ~]# awk '!($8 == 13){print $8}' datafile                    #$8 != 13
[root@xingdiancloud ~]# awk '/southem/{print $5 + 10}' datafile
[root@xingdiancloud ~]# awk '/southem/{print $8 + 10}' datafile
[root@xingdiancloud ~]# awk '/southem/{print $5 + 10.56}' datafile

[root@xingdiancloud ~]# awk '/southem/{print $8 - 10}' datafile
[root@xingdiancloud ~]# awk '/southem/{print $8 / 2 }' datafile
[root@xingdiancloud ~]# awk '/southem/{print $8 / 3 }' datafile
[root@xingdiancloud ~]# awk '/southem/{print $8 * 2 }' datafile
7.脚本编程-条件判断

if语句

{if(表达式)｛语句;语句;...｝}
[root@xingdiancloud ~]# awk -F: '{if($3==0) {print $1 " is administrator."}}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{if($3>0 && $3<1000){count++;}}  END{print count}' /etc/passwd 
//print count动作放在END中时只在结束时执行一次，如果放在处理过程{}中，会造成每次循环都会print count

if…else语句

{if(表达式)｛语句;语句;...｝else{语句;语句;...}}
[root@xingdiancloud ~]# awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{if($3==0) {count++} else{i++} }' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{if($3==0){count++} else{i++}} END{print "管理员个数: "count ; print "系统用户数: "i}' /etc/passwd

if…else if…else语句

{if(表达式1)｛语句;语句；...｝else if(表达式2)｛语句;语句；...｝else if(表达式3)｛语句;语句；...｝else｛语句;语句；...｝
[root@xingdiancloud ~]# awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print i; print k; print j}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print "管理员个数: "i; print "普通用个数: "k; print "系统用户: "j}' /etc/passwd
8.脚本编程-循环

while：

[root@xingdiancloud ~]# awk 'BEGIN{ i=1; while(i<=10){print i; i++}  }'
[root@xingdiancloud ~]# awk -F: '/^root/{i=1; while(i<=7){print $i; i++}}' passwd
[root@xingdiancloud ~]# awk  '{i=1; while(i<=NF){print $i; i++}}' /etc/hosts
[root@xingdiancloud ~]# awk -F: '{i=1; while(i<=10) {print $0;  i++}}' /etc/passwd	   //将每行打印10次
[root@xingdiancloud ~]# cat b.txt 
111 222
333 444 555
666 777 888 999
[root@xingdiancloud ~]# awk '{i=1; while(i<=NF){print $i; i++}}' b.txt                   //分别打印每行的每列
111
222
333
444
555
666
777
888
999

for：

[root@xingdiancloud ~]# awk 'BEGIN{for(i=1;i<=5;i++){print i} }'                              //C风格for
1
2
3
4
5
[root@xingdiancloud ~]# awk -F: '{ for(i=1;i<=10;i++) {print $0} }' /etc/passwd		    //将每行打印10次
[root@xingdiancloud ~]# awk -F: '{ for(i=1;i<=NF;i++) {print $i} }' passwd               //分别打印每行的每列
root
x
0
0
root
/root
/bin/bash
bin
x
1
1
bin
/bin
/sbin/nologin
9.脚本编程-数组

案例一：

[root@xingdiancloud ~]# awk -F: '{username[i++]=$1} END{print username[1]}' /etc/passwd 
bin
[root@xingdiancloud ~]# awk -F: '{username[i++]=$1} END{print username[0]}' /etc/passwd 
root

数组遍历:

​ 按元素个数遍历

[root@xingdiancloud ~]# awk -F: '{username[x++]=$1} END{for(i=0;i<x;i++) print i,username[i]}' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{username[++x]=$1} END{for(i=1;i<=x;i++) print i,username[i]}' /etc/passwd

​ 按索引遍历

[root@xingdiancloud ~]# awk -F: '{username[x++]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd
[root@xingdiancloud ~]# awk -F: '{username[++x]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd

综合案例：

​ 统计/etc/passwd中各种类型shell的数量(统计谁把谁当作索引)

[root@xingdiancloud ~]# awk 'BEGIN{FS=":"} {shells[$NF]++} END{for(i in shells){print i,shells[i]}}' /etc/passwd

​ 统计TCP不同状态的数量

[root@xingdiancloud ~]# netstat -ant |grep tcp |awk '{access_stat[$NF]++} END{for(i in access_stat ){print i,access_stat[i]}}'

三：文本过滤grep

1.grep介绍

​ grep: 在文件中全局查找指定的正则表达式，并打印所有包含该表达式的行

​ egrep: 扩展的egrep，支持更多的正则表达式元字符

​ fgrep: 固定grep(fixed grep)，有时也被称作快速(fast grep)，它按字面解释所有的字符(了解)

2.语法格式
grep [选项] PATTERN filename filename ...

案例：

[root@xingdiancloud ~]# grep 'Tom' /etc/passwd
[root@xingdiancloud ~]# grep 'bash shell' /etc/test

注意：

​ 找到： grep返回的退出状态为0
​ 没找到： grep返回的退出状态为1
​ 找不到指定文件： grep返回的退出状态为2

来自标准输入或管道：

[root@xingdiancloud ~]# ps aux |grep 'sshd'
[root@xingdiancloud ~]# ll |grep '^d'
[root@xingdiancloud ~]# grep 'alice' /etc/passwd /etc/shadow /etc/group
2.使用元字符
grep:						使用基本元字符集	^, $, ., *, [], [^], \< \>,\(\),\{\}, \+, \|
egrep(或grep -E):	        使用扩展元字符集	?, +, { }, |, ( )
注：grep也可以使用扩展集中的元字符，仅需要对这些元字符前置一个反斜线

\w					        所有字母与数字，称为字符[a-zA-Z0-9]		 'l[a-zA-Z0-9]*ve'  'l\w*ve'
\W				            所有字母与数字之外的字符，称为非字符	     'love[^a-zA-Z0-9]+' 	    'love\W+'
\b					        词边界						           '\<love\>'		          '\blove\b'
3.grep示例
[root@xingdiancloud ~]# egrep 'N\W' datafile			
[root@xingdiancloud ~]# egrep '^n' datafile
[root@xingdiancloud ~]# egrep '4$' datafile
[root@xingdiancloud ~]# egrep '5\..' datafile	
[root@xingdiancloud ~]# egrep '\.5' datafile		
[root@xingdiancloud ~]# egrep '^[we]' datafile
[root@xingdiancloud ~]# egrep '[^0-9]' datafile	
[root@xingdiancloud ~]# egrep '[A-Z][A-Z] [A-Z]' datafile
[root@xingdiancloud ~]# egrep 'ss* ' datafile		
[root@xingdiancloud ~]# egrep '[a-z]{9}' datafile
[root@xingdiancloud ~]# egrep '\<north' datafile
[root@xingdiancloud ~]# egrep '\<north\>' datafile	
[root@xingdiancloud ~]# egrep '\<[a-r].*n\>' datafile
[root@xingdiancloud ~]# egrep '^n\w*\W' datafile	
[root@xingdiancloud ~]# egrep '\bnorth\b' datafile
[root@xingdiancloud ~]# egrep '3+' datafile
[root@xingdiancloud ~]# egrep '2\.?[0-9]' datafile	
[root@xingdiancloud ~]# egrep '(no)+' datafile
[root@xingdiancloud ~]# egrep 'S(h|u)' datafile
4.grep参数
-i, --ignore-case				忽略大小写
-l, --files-with-matches		只列出匹配行所在的文件名
-n, --line-number				在每一行前面加上它在文件中的相对行号
-c, --count						显示成功匹配的行数
-s, --no-messages				禁止显示文件不存在或文件不可读的错误信息
-q, --quiet, --silent			静默--quiet, --silent
-v, --invert-match				反向查找，只显示不匹配的行
-R, -r, --recursive				递归针对目录
--color							颜色
-o, --only-matching			    只显示匹配的内容
-E                              支持拓展正则，等价于egrep

示例：

[root@xingdian ~]# grep -R 'ifcfg' /etc           目录

[root@xingdian ~]# egrep 'root' /etc/passwd /etc/shadow /etc/hosts
/etc/passwd:root:x:0:0:root:/root:/bin/bash
/etc/passwd:operator:x:11:0:operator:/root:/sbin/nologin
/etc/shadow:root:$6$gcO6Vp4t$OX9LmVgpjtur67UQdUYfw7vJW.78.uRXCLIxw4mBk82Z99:7:::

[root@xingdian ~]# egrep -l 'root' /etc/passwd /etc/shadow /etc/hosts
/etc/passwd
/etc/shadow

[root@xingdian ~]# egrep -n 'root' /etc/passwd /etc/shadow /etc/hosts 
/etc/passwd:1:root:x:0:0:root:/root:/bin/bash
/etc/passwd:11:operator:x:11:0:operator:/root:/sbin/nologin
/etc/shadow:1:root:$6$gcO6Vp4t$OX9LmVgpjtur67UQdUy8.M78.uRXCLIxw4mBk82ZrNlxyf54


[root@xingdian ~]# egrep -R '54:04:A6:CE:C2:1F' /etc/sysconfig/

[root@xingdian ~]# egrep '^IPADDR' /etc/sysconfig/network-scripts/ifcfg-eth0 |egrep -o '[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}'
192.168.2.254
[root@xingdian ~]# egrep '^IPADDR' /etc/sysconfig/network-scripts/ifcfg-eth0 |egrep -o '([0-9]{1,3}\.){3}[0-9]{1,3}'
192.168.2.254
月之菈妮
关注
  • 24
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
day1shell编程简介以及变量shell编程.txt
03-19
day1shell编程简介以及变量shell编程.txt
happyday06-shell脚本书写技巧.txt
04-29
happyday06-shell脚本书写技巧.txt
day6 三剑客三剑客.docx
03-19
day6 三剑客三剑客.docx
Shell学习15天（Shell内置命令）- 09day
01-08
（一） Shell 内置命令 ：                      永远返回0 true                   永远返回0 exit                     退出整个程序 break                 结束当前循环，或跳出本层循环。 break n   这个用法会跳出 n 层.    break和continue只能作用于循环。 continue           忽略本次循环剩余的代码，直接进行下一次循环  。 continue n  跳过 n 层后续的代码 shift                  使位置参数向左移动，默认移动1位。
shell-day3
04-09
shell的资料,关于shell的基本架构知识，以及他们的基础应用。
Shell工作实践：三剑客
时间墨客
07-31 481
知识点：1）/^nologin/:以nologin开头 /nologin$/:以nologin结尾2）wc命令用于计算字数。参数：-c, --bytes：统计字节数。-m, --chars：统计字符数。-w, --words：统计字数。-l, --lines：统计行数。-L, --max-line-length：统计最长行的长度3）阅读：awk '/nologin$/{x++;#输出以root开头的行#输出以 nologin 结尾的行#输出不是第10行的所有行。
SHELL 之 文本三剑客 -- awk
XY0918ZWQ的博客
04-17 197
[root@wan day8]# awk '{print}' passwd -- hello world输出 [root@wan day8]# awk 'BEGIN {print "hello world"}' -- 输出指定的列 [root@wan day8]# awk -F: '{print $1,$2,$3}' passwd | head -3 -- 换行输出内容 [root@wan day8]# awk 'BEGIN {print "zhang\nwan\nqiang"}' -- 格式化输出
Shell脚本文本三剑客之awk
FYR1018的博客
04-30 461
1 awk 介绍1.1 awk 工作原理1.2 awk 命令的基本格式1.2.1 以行输出文本1.2.2 扩充：awk 'BEGIN{...};{...};END{...}' 文件1.2.3 以字段（列）输出文本1.2.4 三元运算符1.2.5 $NF、\$n~、\$n==、\$n!=1.2.6 OFS 输出内容的列分隔符1.3 高级用法1---通过管道、双引号调用shell命令1.4 高级用法2---awk数组特性1.5 日期---date1.6 案例
shell阶段-day15-三剑客之awk
作者的博客园已搬家到CSDN，访问博客园主页将默认跳转至CSDN
02-04 147
文章目录三剑客之awk命令一、awk简介1、awk起源2、awk的两种语法格式3、awk选项options4、awk的命令commands总共由三部分组成5、格式省略项二、awk工作原理三、记录与字段相关内部变量四、格式化输出1、print函数2、printf函数五、模式pattern与动作actionpattern可以是如下6个模式：1、正则表达式2、比较表达式3、条件表达式4、算数运算5、逻辑运算和复合模式6、范围模式六、awk示例七、awk流程控制1、if判断2、while与for循环3、数组八、aw
Linux fallocate工具用于预分配或释放文件空间的块
不积跬步，无以至千里；不积小流，无以成江海。
06-09 288
命令，您需要在具有适当权限的环境中运行它，例如通过SSH登录到Linux服务器或在Linux终端中运行。请确保指定的路径存在且可写。文件中未使用的磁盘空间。请注意，这不会改变文件的大小，只是释放了未使用的磁盘空间。之前，建议了解文件系统和存储设备的特性，以避免潜在的性能问题。是一个Linux命令行工具，用于预分配或释放文件空间的块。文件的大小截断为5MB。大于5MB的部分将被删除。文件的10MB偏移量处开始预分配5MB的磁盘空间。文件的10MB偏移量处开始的5MB磁盘空间。文件预分配10MB的磁盘空间。
解决 Linux 和 Java 1.8 中上传中文名称图片报错问题
appearappear的博客
06-12 206
在 Linux 系统和 Java 1.8 中，当尝试上传含有中文名称的图片时，可能会遇到以下错误提示：为了解决这个问题，可以采取以下方法：在 Docker 的 中添加如下参数：Dockerfile使用以下命令启动 Java 程序，添加 参数：通过以上配置，确保了在启动 Java 程序时，使用了 UTF-8 编码，这样可以正确处理含有中文名称的文件，避免了报错问题的发生。3.5
嵌入式Linux系统编程 — 3.4 access、chmod和 umask函数修改文件访问权限
几度春风里的博客
06-09 907
文件的权限检查不仅讨论文件本身的权限，还需要涉及到文件所在目录的权限， 只有同时都满足了，才能通过操作系统的权限检查，进而才可以对文件进行相关操作；所以，程序当中对文件进行相关操作之前，需要先检查执行进程的用户是否对该文件拥有相应的权限。需要进行权限检查的文件路径。F_OK：检查文件是否存在R_OK：检查是否拥有读权限W_OK：检查是否拥有写权限X_OK：检查是否拥有执行权限检查项通过则返回 0，表示拥有相应的权限并且文件存在；
linux中: IDEA 由于JVM 设置内存过小，导致打开项目闪退问题
最新发布
m0_72560900的博客
06-12 280
在linux(debian/ubuntu)中idea的插件默认安装位置和配置文件在哪里?
Linux介绍-以CentOS和Ubuntu为例---linux入门01
weixin_44874487的博客
06-06 661
1.1 Linux的起源与发展Linux操作系统的内核最初由Linus Torvalds在1991年发布，并且迅速得到了全球开发者社区的支持。由于其开源的性质，Linux的发展非常迅速，形成了众多不同的发行版，适用于服务器、桌面、嵌入式系统等各种应用场景。Linux 内核最初只是由芬兰人林纳斯·托瓦兹（Linus Torvalds）在赫尔辛基大学上学时出于个人爱好而编写的。
Linux Kernel入门到精通系列讲解（RV-Kernel 篇） 5.2 从零移植 Ubuntu，基于RISC-V
DSMGUOGUO的博客
06-10 139
之前，我们要知道几个概念，这样有助于后续移植。2. kernel和rootfs的调用关系。已经跑起来了，接下来我们就移植。3. 移植ubuntu。4. 运行ubuntu。6. 吐槽ubuntu。
linux centos redis-6.2.6一键安装及配置密码
qq_42250832的博客
06-09 1063
然而，Redis事务只能处理简单的Redis命令，对于更复杂的操作，可能需要借助Lua脚本或Redis Streams等高级功能。主节点会将写命令传播给所有从节点，以保持数据一致性。Redis支持多种数据结构，包括字符串（String）、列表（List）、集合（Set）、有序集合（Sorted Set）和哈希（Hash）。综上所述，Redis的原理主要涉及其灵活的数据结构、持久化机制、主从复制以及事务处理等方面。这些特性使得Redis能够适应不同的应用场景，并提供高性能、高可用性的数据存储和操作服务。
MySQl基础----Linux下搭建mysql软件及登录和基本使用（附实操图超简单一看就会）
溟洵的博客
06-10 734
本章非常基础包括如何在Linux上搭建（==当然上面的SQL语句你在其他能执行SQL语句的软件上也能正常执行，并非一定要在Linux环境下==）和mysql的基本使用
【Linux】生产者消费者模型——阻塞队列BlockQueue
AAlykk的博客
06-11 813
Linux有两个重要的模型，一个是生产者消费者模型——阻塞队列BlockQueue，另一个则是生产者消费者模型——环形队列RingQueue。今天我们学习其中一个模型：【Linux】生产者消费者模型——阻塞队列BlockQueue。⭐主体生产者消费模型高效在哪里？高效体现在一个线程拿出来任务可能正在做计算，它在做计算的同时，其他线程可以继续从队列中拿，继续做运算，高效并不是体现在从队列中拿数据高效！而是我们可以让一个、多个线程并发的同时计算多个任务！
shell脚本月末循环
12-12
以下是一个shell脚本的例子，可以在月末循环执行命令： ```shell #!/bin/bash day=$(date +%d) if [ $day -eq 28 ] then # 在这里输入你想要执行的命令 echo "This is the last day of February." elif [ $day -eq...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值