linux awk sed find,Linux下AWK、SED、GREP、FIND命令详解

AWK

AWK是一个优良的文本处理工具，Linux和Unix环境中现有的功能最强大的数据处理引擎之一。

语法

awk [选项参数] 'script' var=value file(s)

或

awk [选项参数] -f scriptfile var=value file(s)

调用方式

awk 命令行

你可以象使用普通UNIX 命令一样使用awk，在命令行中你也可以使用awk 程序设计语言，，这种方法一般只用于解决简单的问题。当然，你也可以在shell script 程序中引用awk 命令行甚至awk 程序脚本。

使用-f 选项调用awk 程序

awk 允许将一段awk 程序写入一个文本文件，然后在awk 命令行中用-f 选项调用并执行这段程序。

利用命令解释器调用awk 程序

利用UNIX 支持的命令解释器功能，我们可以将一段awk 程序写入文本文件，然后在它的第一行加上#!/bin/awk –f。

参数相关

FILENAME：awk浏览的文件名

FNR：awk浏览的文件的记录数

FS：设置输入域的分隔符

NF：浏览域的个数

NR：已读的记录数

OFS：输出域分隔符

ORS：输出记录分隔符

RS：控制记录分隔符

$0：指整条记录

$1：第一个作用域及第一列

~：匹配，与==相比不是精确比较

!~：不匹配，不精确比较

==：等于，必须全部相等，精确比较

!=：不等于，精确比较

&&：逻辑与

||：逻辑或

+：匹配时表示1个或1个以上

/[0-9][0-9]+/：两个或两个以上数字

/[0-9][0-9]*/：一个或一个以上数字

案例

过滤/etc/passwd文件，以冒号为分隔符，过滤出第一列

awk -F ':' '{print $1}' /etc/passwd

统计/etc/passwd文件中，一共有多少个用户

awk '{count++;print $0;} END {print "user count is:",count} ' /etc/passwd

统计/etc/passwd文件,打印出文件名，已读的记录数，以冒号为分隔符，每行浏览域的个数，每行记录的内容

awk -F ':' '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF, ",linecontent:" $0}' /etc/passwd

统计/etc/passwd文件，从0开始，依次往下浏览，一直到最后并打印出循环了多少次

awk 'BEGIN {count=0;print "start use count is:",count} {count++;print $0;} END {print "user count is:",count} ' /etc/passwd

统计当前目录下，所有文件总大小，并输出到all file siz is

ll |awk 'BEGIN {size=0} {size=size+$5} END {print "all file size is:",size}'

统计当前目录下，除去4096大小的文件外，所有文件大小的总和，输出到all file siz is

ll |awk 'BEGIN {size=0} {if ($5 !=4096) size=size+$5} END {print "all file size is:",size}'

统计/etc/passwd文件,在每行行首从0开始记录浏览行数

awk -F ':' 'BEGIN {null=0} {name[null]=$1;null++} END {for(i=0;i

统计netstat -anp 状态为LISTEN和CONNECT的连接数量分别是多少

netstat -anp|awk '$6~/LISTEN|CONNECTED/{sum[$6]++} END{for (i in sum) printf "%-10s %-6s %-3s \n", i," ",sum[i]}'

计算/home目录下，普通文件的大小，使用KB作为单位

ls -l|awk 'BEGIN{sum=0} !/^d/{sum+=$5} END{print "total size is:",sum/1024,"KB"}'

ls -l|awk 'BEGIN{sum=0} !/^d/{sum+=$5} END{print "total size is:",int(sum/1024),"KB"}' //int是取整的意思

统计/home目录下不同用户的普通文件的总数是多少？

ls -l|awk 'NR!=1 && !/^d/{sum[$3]++} END{for (i in sum) printf "%-6s %-5s %-3s \n",i," ",sum[i]}'

mysql 199

root 374

统计/home目录下不同用户的普通文件的大小总size是多少？

ls -l|awk 'NR!=1 && !/^d/{sum[$3]+=$5} END{for (i in sum) printf "%-6s %-5s %-3s %-2s \n",i," ",sum[i]/1024/1024,"MB"}'

SED

SED即Stream Editor文本流编辑，是一个“非交互式”面向字符流的编辑器。能同时处理多个文件多行的内容，可以不对原文件改动，把整个文件输入到屏幕，可以把只匹配到模式的内容输入到屏幕上。还可以对原文件改动，但是不会再屏幕上返回结果。

语法

sed [options] 'command' file(s)

或者

sed [options] -f scriptfile file(s)

选项

-e ：直接在命令行模式上进行sed动作编辑，此为默认选项;

-f ：将sed的动作写在一个文件内，用–f filename 执行filename内的sed动作;

-i ：直接修改文件内容;

-n ：只打印模式匹配的行;

-r ：支持扩展表达式;

-h或--help：显示帮助;

-V或--version：显示版本信息;

-a ：新增， a 的后面可以接字串，而这些字串会在新的一行出现(目前的下一行);

-c ：取代， c 的后面可以接字串，这些字串可以取代 n1,n2 之间的行;

-d ∶删除，因为是删除啊，所以 d 后面通常不接任何咚咚;

-i ∶插入， i 的后面可以接字串，而这些字串会在新的一行出现(目前的上一行);

-p ∶列印，亦即将某个选择的资料印出;通常 p 会与参数 sed -n 一起运作;

-s ∶取代，可以直接进行取代的工作哩;通常这个 s 的动作可以搭配正规表示法;

常用命令

a\\ 在当前行下面插入文本。

i\\ 在当前行上面插入文本。

c\\ 把选定的行改为新的文本。

d 删除，删除选择的行。

D 删除模板块的第一行。

s 替换指定字符

h 拷贝模板块的内容到内存中的缓冲区。

H 追加模板块的内容到内存中的缓冲区。

g 获得内存缓冲区的内容，并替代当前模板块中的文本。

G 获得内存缓冲区的内容，并追加到当前模板块文本的后面。

l 列表不能打印字符的清单。

n 读取下一个输入行，用下一个命令处理新的行而不是用第一个命令。

N 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。

p 打印模板块的行。

P(大写) 打印模板块的第一行。

q 退出Sed。

b lable 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。

r file 从file中读行。

t label if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。

T label 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。

w file 写并追加模板块到file末尾。

W file 写并追加模板块的第一行到file末尾。

! 表示后面的命令对所有没有被选定的行发生作用。

= 打印当前行号码。

'#' 把注释扩展到下一个换行符以前。

替换标记

g 表示行内全面替换。

p 表示打印行。

w 表示把行写入一个文件。

x 表示互换模板块中的文本和缓冲区中的文本。

y 表示把一个字符翻译为另外的字符(但是不用于正则表达式)

\\1 子串匹配标记

& 已匹配字符串标记

sed元字符集

^ 匹配行开始，如：/^sed/匹配所有以sed开头的行。

$ 匹配行结束，如：/sed$/匹配所有以sed结尾的行。

. 匹配一个非换行符的任意字符，如：/s.d/匹配s后接一个任意字符，最后是d。

* 匹配0个或多个字符，如：'/*sed/'匹配所有模板是一个或多个空格后紧跟sed的行。

[] 匹配一个指定范围内的字符，如/[ss]ed/匹配sed和Sed。

[^] 匹配一个不在指定范围内的字符，如：/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头，紧跟ed的行。

\\(..\\) 匹配子串，保存匹配的字符，如s/\\(love\\)able/\\1rs，loveable被替换成lovers。

& 保存搜索字符用来替换其他字符，如s/love/**&**/，love这成**love**。

\\< 匹配单词的开始，如:/\\\\> 匹配单词的结束，如/love\\>/匹配包含以love结尾的单词的行。

x\\{m\\} 重复字符x，m次，如：/0\\{5\\}/匹配包含5个0的行。

x\\{m,\\} 重复字符x，至少m次，如：/0\\{5,\\}/匹配至少有5个0的行。

x\\{m,n\\} 重复字符x，至少m次，不多于n次，如：/0\\{5,10\\}/匹配5~10个0的行。

sed匹配模式正则

sed '5 q' /etc/passwd #打印前5行

sed -n '/r*t/p' /etc/passwd #打印匹配r有0个或者多个，后接一个t字符的行

sed -n '/.r.*/p' /etc/passwd #打印匹配有r的行并且r后面跟任意字符

sed -n '/o*/p' /etc/passwd #打印o字符重复任意次

sed -n '/o\{1,\}/p' /etc/passwd #打印o字重复出现一次以上

sed -n '/o\{1,3\}/p' /etc/passwd #打印o字重复出现一次到三次之间以上

sed对文件内容增加(-i修改源文件)

cat file.txt

Python

Django

Flask

Hello World

1. 匹配字符行的行首添加

sed '/Python/s/^/Lain /' file.txt

Lain Python

Django

Flask

Hello World

2. 匹配字符行的行尾添加

sed 's/Python/& Lain/' file.txt

Python Lain

Django

Flask

Hello World

3. 匹配字符前添加

sed 's/World/Lain &/' file.txt

Python

Django

Flask

Hello Lain World

4. 匹配字符后添加

sed 's/World/& Lain/' file.txt

Python

Django

Flask

Hello World Lain

5. 匹配行的上一行添加

sed '/Flask/i\HTML' file.txt

或者

sed '/Flask/i HTML' file.txt

Python

Django

HTML

Flask

Hello World

6. 匹配行的下一行添加

sed '/Flask/a HTML' file.txt

或者

sed '/Flask/a\HTML' file.txt

Python

Django

Flask

HTML

Hello World

7. 所有行行首添加

sed 's/^/Lain /g' file.txt

或者

sed 's/^/Lain /' file.txt

Lain Python

Lain Django

Lain Flask

Lain Hello World

8. 所有行行尾添加

sed 's/$/ Lain/' file.txt

或者

sed 's/$/ Lain/g' file.txt

Python Lain

Django Lain

Flask Lain

Hello World Lain

9.指定行添加内容

sed '1,2s/$/ Lain/g' file.txt #1,2行行尾添加

sed '1,2s/^/# /' file.txt #1,2行行首添加

sed对文件内容删除(-i修改源文件)

cat file.txt

#Python web

#Django web

Flask web

Hello World web

JavaScript

PHP Nginx

1. 删除行首是'#'的行

sed '/^#/d' file.txt

Flask web

Hello World web

JavaScript

PHP Nginx

2. 删除行首不是'#'的行

sed '/^#/!d' file.txt

#Python web

#Django web

3. 删除行

sed '1d' file.txt #删除第一行

sed '$d' file.txt #删除最后一行

sed '1,2d' file.txt #删除指定行

4. 删除匹配字符所在的行

sed '/Hello/d' file.txt

#Python web

#Django web

Flask web

JavaScript

PHP Nginx

sed对文件内容修改(-i修改源文件)

cat file.txt

#Python web

#Django web

Flask web

Hello World web

JavaScript

PHP Nginx

1. 更换匹配字符所在行

sed '/Flask/c\LAIN' file.txt

#Python web

#Django web

LAIN

Hello World web

JavaScript

PHP Nginx

2. 更换文件中所有匹配字符

sed 's/web/core/' file.txt

#Python core

#Django core

Flask core

Hello World core

JavaScript

PHP Nginx

3. 更换匹配字符所在行的关键字

sed '/Flask/s@web@core@' file.txt

或者

sed '/Flask/s#web#core#' file.txt

#Python web

#Django web

Flask core

Hello World web

JavaScript

PHP Nginx

4. 替换匹配关键字所在行的'#'

sed '/web/s/#//' file.txt

Python web

Django web

Flask web

Hello World web

JavaScript

PHP Nginx

GREP

GREP(global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具，它能使用正则表达式搜索文本，并把匹配的行打印出来。

grep的工作方式，它在一个或多个文件中搜索字符串模板。如果模板包括空格，则必须被引用，模板后的所有字符串被看作文件名。搜索的结果被送到屏幕，不影响原文件内容。

grep可用于shell脚本，因为grep通过返回一个状态值来说明搜索的状态，如果模板搜索成功，则返回0，如果搜索不成功，则返回1，如果搜索的文件不存在，则返回2。我们利用这些返回值就可进行一些自动化的文本处理工作。

语法

grep [OPTION]... PATTERN [FILE]...

匹配模式

-E, --extended-regexp 扩展正则表达式egrep

-F, --fixed-strings 一个换行符分隔的字符串的集合fgrep

-G, --basic-regexp 基本正则

-P, --perl-regexp 调用的perl正则

-e, --regexp=PATTERN 后面根正则模式，默认无

-f, --file=FILE 从文件中获得匹配模式

-i, --ignore-case 不区分大小写

-w, --word-regexp 匹配整个单词

-x, --line-regexp 匹配整行

-z, --null-data 一个 0 字节的数据行，但不是空行

-s, --no-messages 不显示错误信息

-v, --invert-match 显示不匹配的行

-V, --version 显示版本号

--help 显示帮助信息

--mmap use memory-mapped input if possible

控制项

输入控制:

-m, --max-count=NUM 匹配的最大数

-b, --byte-offset 打印匹配行前面打印该行所在的块号码。

-n, --line-number 显示的加上匹配所在的行号

--line-buffered 刷新输出每一行

-H, --with-filename 当搜索多个文件时，显示匹配文件名前缀

-h, --no-filename 当搜索多个文件时，不显示匹配文件名前缀

--label=LABEL print LABEL as filename for standard input

-o, --only-matching 只显示一行中匹配PATTERN 的部分

-q, --quiet, --silent 不显示任何东西

--binary-files=TYPE 假定二进制文件的TYPE 类型；TYPE 可以是`binary', `text', 或`without-match'

-a, --text 匹配二进制的东西

-I 不匹配二进制的东西

-d, --directories=ACTION 目录操作，读取，递归，跳过

-D, --devices=ACTION 设置对设备，FIFO,管道的操作，读取，跳过

-R, -r, --recursive 递归调用

--include=PATTERN 只查找匹配FILE_PATTERN 的文件

--exclude=PATTERN 跳过匹配FILE_PATTERN 的文件和目录

--exclude-from=FILE 跳过所有除FILE 以外的文件

-L, --files-without-match 匹配多个文件时，显示不匹配的文件名

-l, --files-with-matches 匹配多个文件时，显示匹配的文件名

-c, --count 显示匹配了多少次

-Z, --null 在FILE 文件最后打印空字符

文件控制:

-B, --before-context=NUM 打印匹配本身以及前面的几个行由NUM控制

-A, --after-context=NUM 打印匹配本身以及随后的几个行由NUM控制

-C, --context=NUM 打印匹配本身以及随后，前面的几个行由NUM控制

-NUM 根-C的用法一样的

--color[=WHEN],

--colour[=WHEN] 使用标志高亮匹配字串；

-U, --binary 使用标志高亮匹配字串；

-u, --unix-byte-offsets 当CR 字符不存在，报告字节偏移(MSDOS 模式)

案例

- 测试文件

cat test.txt

systemd-network:x:998:996:systemd Network Management:/:/sbin/nologin

dbus:x:81:81:System message bus:/:/sbin/nologin

polkitd:x:997:995:User for polkitd:/:/sbin/nologin

colord:x:996:994:User for colord:/var/lib/colord:/sbin/nologin

abrt:x:173:173::/etc/abrt:/sbin/nologin

tss:x:59:59:Account used by the trousers package to sandbox the tcsd daemon:/dev/null:/sbin/nologin

unbound:x:995:993:Unbound DNS resolver:/etc/unbound:/sbin/nologin

usbmuxd:x:113:113:usbmuxd user:/:/sbin/nologin

saslauth:x:994:76:Saslauthd user:/run/saslauthd:/sbin/nologin

libstoragemgmt:x:993:990:daemon account for libstoragemgmt:/var/run/lsm:/sbin/nologin

geoclue:x:992:989:User for geoclue:/var/lib/geoclue:/sbin/nologin

rpc:x:32:32:Rpcbind Daemon:/var/lib/rpcbind:/sbin/nologin

postfix:x:89:89::/var/spool/postfix:/sbin/nologin

setroubleshoot:x:991:988::/var/lib/setroubleshoot:/sbin/nologin

rtkit:x:172:172:RealtimeKit:/proc:/sbin/nologin

pulse:x:171:171:PulseAudio System Daemon:/var/run/pulse:/sbin/nologin

gdm:x:42:42::/var/lib/gdm:/sbin/nologin

rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin

nfsnobody:x:65534:65534:Anonymous NFS User:/var/lib/nfs:/sbin/nologin

radvd:x:75:75:radvd user:/:/sbin/nologin

qemu:x:107:107:qemu user:/:/sbin/nologin

chrony:x:990:985::/var/lib/chrony:/sbin/nologin

mysql:x:27:27:MariaDB Server:/var/lib/mysql:/sbin/nologin

pcp:x:989:984:Performance Co-Pilot:/var/lib/pcp:/sbin/nologin

gnome-initial-setup:x:988:983::/run/gnome-initial-setup/:/sbin/nologin

1. 匹配含有'mysql'的行

grep mysql test.txt

mysql:x:27:27:MariaDB Server:/var/lib/mysql:/sbin/nologin

2. 匹配以'mysql'或者'tss'开头的行

grep '^\(tss\|mysql\)' test.txt

tss:x:59:59:Account used by the trousers package to sandbox the tcsd daemon:/dev/null:/sbin/nologin

mysql:x:27:27:MariaDB Server:/var/lib/mysql:/sbin/nologin

3. 递归匹配'soft'目录下所有含有'Daemon'的行并显示行号

grep -Frn 'Daemon' /soft

4. 不显示以'mysql'或者'tss'开头的行

grep -n '^\(root\|mysql\)' test.txt

5. 不区分大小写匹配

grep -i '^\(ROOT\|MYSQL\)' test.txt

mysql:x:27:27:MariaDB Server:/var/lib/mysql:/sbin/nologin

6. 匹配关键字并打印前后

grep -A3 'gdm' test.txt #A后三行

gdm:x:42:42::/var/lib/gdm:/sbin/nologin

rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin

nfsnobody:x:65534:65534:Anonymous NFS User:/var/lib/nfs:/sbin/nologin

radvd:x:75:75:radvd user:/:/sbin/nologin

grep -B3 'gdm' test.txt #B前三行

grep -B3 'gdm' test.txt #C前后三行

FIND

FIND命令用来在指定目录下查找文件。任何位于参数之前的字符串都将被视为欲查找的目录名。如果使用该命令时，不设置任何参数，则find命令将在当前目录下查找子目录与文件。并且将查找到的子目录和文件全部进行显示。

语法

find path -option [ -print ] [ -exec -ok command ] {} \;

参数

pathname: find命令所查找的目录路径。例如用.来表示当前目录，用/来表示系统根目录。

-print： find命令将匹配的文件输出到标准输出。

-exec： find命令对匹配的文件执行该参数所给出的shell命令。相应命令的形式为'command' { } \;，注意{ }和\；之间的空格。

-ok： 和-exec的作用相同，只不过以一种更为安全的模式来执行该参数所给出的shell命令，在执行每一个命令之前，都会给出提示，让用户来确定是否执行。

-print 将查找到的文件输出到标准输出

-exec command {} \; —–将查到的文件执行command操作,{} 和 \;之间有空格；

-mount, -xdev : 只检查和指定目录在同一个文件系统下的文件，避免列出其它文件系统中的文件

-amin n : 在过去 n 分钟内被读取过

-anewer file : 比文件 file 更晚被读取过的文件

-atime n : 在过去 n 天过读取过的文件

-cmin n : 在过去 n 分钟内被修改过

-mtime n : 按文件更改时间来查找文件，-n指n天以内，+n指n天以前

-cnewer file :比文件 file 更新的文件

-ctime n : 在过去 n 天过修改过的文件

-empty : 空的文件-gid n or -group name : gid 是 n 或是 group 名称是 name

-ipath p, -path p : 路径名称符合 p 的文件，ipath 会忽略大小写

-name name, -iname name : 文件名称符合 name 的文件。iname 会忽略大小写

-depth : 使查找在进入子目录前先行查找完本目录

-fstype : 查位于某一类型文件系统中的文件，这些文件系统类型通常可 在/etc/fstab中找到

-mount : 查文件时不跨越文件系统mount点

-follow : 如果遇到符号链接文件，就跟踪链接所指的文件

-cpio : 查位于某一类型文件系统中的文件，这些文件系统类型通常可 在/etc/fstab中找到

-prune : 忽略某个目录

案例

find -name april* 在当前目录下查找以april开始的文件

find -name april* fprint file 在当前目录下查找以april开始的文件，并把结果输出到file中

find -name ap* -o -name may* 查找以ap或may开头的文件

find /mnt -name tom.txt -ftype vfat 在/mnt下查找名称为tom.txt且文件系统类型为vfat的文件

find /mnt -name t.txt ! -ftype vfat 在/mnt下查找名称为tom.txt且文件系统类型不为vfat的文件

find /tmp -name wa* -type l 在/tmp下查找名为wa开头且类型为符号链接的文件

find /home -mtime -2 在/home下查最近两天内改动过的文件

find /home -atime -1 查1天之内被存取过的文件

find /home -mmin +60 在/home下查60分钟前改动过的文件

find /home -amin +30 查最近30分钟前被存取过的文件

find /home -newer tmp.txt 在/home下查更新时间比tmp.txt近的文件或目录

find /home -anewer tmp.txt 在/home下查存取时间比tmp.txt近的文件或目录

find /home -used -2 列出文件或目录被改动过之后，在2日内被存取过的文件或目录

find /home -user cnscn 列出/home目录内属于用户cnscn的文件或目录

find /home -uid +501 列出/home目录内用户的识别码大于501的文件或目录

find /home -group cnscn 列出/home内组为cnscn的文件或目录

find /home -gid 501 列出/home内组id为501的文件或目录

find /home -nouser 列出/home内不属于本地用户的文件或目录

find /home -nogroup 列出/home内不属于本地组的文件或目录

find /home -name tmp.txt -maxdepth 4 列出/home内的tmp.txt 查时深度最多为3层

find /home -name tmp.txt -mindepth 3 从第2层开始查

find /home -empty 查找大小为0的文件或空目录

find /home -size +512k 查大于512k的文件

find /home -size -512k 查小于512k的文件

find /home -links +2 查硬连接数大于2的文件或目录

find /home -perm 0700 查权限为700的文件或目录

find /tmp -name tmp.txt -exec cat {} \; 在/tmp目录下搜索并查看tmp.txt文件

find /tmp -name tmp.txt -ok rm {} \; 在/tmp目录下搜索并删除tmp.txt文件

find /tmp -type f -ctime +30 -ok rm {} \; 搜索/tmp下30天以前创建的文件并删除

find /tmp -type f -ctime +7 -exec cp {} /soft \; 搜索/tmp下7天以前创建的文件并拷贝到/soft目录下

find / -amin -10 查找在系统中最后10分钟访问的文件

find / -atime -2 查找在系统中最后48小时访问的文件

find / -empty 查找在系统中为空的文件或者文件夹

find / -group cat 查找在系统中属于 groupcat的文件

find / -mmin -5 查找在系统中最后5分钟里修改过的文件

find / -mtime -1 查找在系统中最后24小时里修改过的文件

find / -nouser 查找在系统中属于作废用户的文件

find / -user fred 查找在系统中属于FRED这个用户的文件