linux高级命令

三. 高级命令

1. grep文本处理工具

2. sed

3. awk命令

4. seq命令 

5. cut命令

6. sort命令

7. uniq命令

8. wc命令

1. grep文本处理工具

grep [参数] '匹配关键字' fileName
     -c:count
     -e:多个连续命令,即正则表达式方式
     -E:extend
     -i:ingore
     -n:number
     -r:recursive
     -v:反转,即命中的不显示,没有命中显示出来

 

2. sed 

sed是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为 “模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。sed主要用来自动编辑一个或多个文件,简化对文件的反复操作;
1. 命令格式    sed    [参数]    [动作]
2. 使用参数
    -n:使用安静模式。在一般 sed 的用法中,所有来自stdin的数据一般都会被列出到终端上。但如果加上 -n 参数后,则只有经过sed特殊处理的那一行或者动作.才会被列出来。
    -e:直接在命令列模式上进行 sed 的动作编辑。
    -f:直接将 sed 的动作写在一个文件内,-f file 则可以运行 file内的 sed 动作。
    -r:sed 动作支持的是延伸型正则表达式的语法。
    -i:直接修改读取的文件内容,而不是输出到终端。
3. 动作
    [n1[,n2]] function
    n1,n2:不见得会存在,一般代表[选择进行动作的行数],举例来说,如果我的动作是需要在10到20行之间进行的,则[10,20[动作行为]]
           function:


        a:新增,a的后面可以接字符串,而这些字符串会在新的一行出现目前的下一行.
        c:取代,c的后面可以接字符串,这些字符串可以取代n1,n2之间的行
        d:删除,d后面通常不接任何字符串
        i:插入,i的后面可以接字符串,而这些字符串会在新的一行出现目前的上一行.
        p:将某个选择的数据印出。通常p会与参数 sed -n 一起运行
        s:取代,可以直接进行取代的工作。通常这个s的动作可以搭配正则表达式。例如:1,20s/old/new/g
 
4. 使用示例
    ********以"行"为单位的新增/删除********
    <1> 将/etc/passwd的内容列出并且打印出行号,同时,请将第2-5行删除
    命令    nl /etc/passwd | sed '2,5d'
    说明:d就是删除动作
    <2> 只删除第2行
    命令    nl /etc/passwd | sed '2d'
    <3> 删除第3行到最后行
    命令    nl /etc/passwd | sed '3,$d'
    <4> 在第2行后面加上"hello man!"字样
    命令    nl /etc/passwd | sed '2a hello man!'
    <5> 在第2行后面加上多行字符串"hello man!"和"yeah!,ok!"字样
    命令    nl /etc/passwd | sed '2a hello man!\
            yeah!,ok!'
    说明:每一行之间都必须要以反斜杠[\]来进行新行的添加!
    ********以"行"为单位的替换与显示********
    <1> 将2-5行的内容取代成"2-5行内容汇总"
    命令    nl /etc/passwd | sed '2,5c 2-5行内容汇总'
    <2> 仅列出/etc/passwd文件内的第5-7行
    命令    nl /etc/passwd | sed -n '5,7p'
    ********数据的查找并显示********
    <1> 搜索/etc/passwd有root关键字的行
    命令    nl /etc/passwd | sed '/root/p'
    注意事项:不管有没有命中搜索关键字,所有行均会原样进行输出。
    <2> 使用 -n只打印匹配行
    命令    nl /etc/passwd | sed -n '/root/p'
    ********数据的查找并删除********
    <1> 删除 /etc/passwd所有包含root的行,只输出其他行
    命令    nl /etc/passwd | sed '/root/d'
    ********数据的查找并执行命令******** 
    <1> 匹配上"root"字符串后,搜索/etc/passwd,找到root对应的行,执行后面花括号的一组命令
    命令    nl /etc/passwd | sed -n '/root/{s/bash/blueshell/;p}'
    说明:每个命令之间用分号分隔。
    ********数据的查找并替换********
    <1> 把/etc/passwd中的"root"替换成"rootUser"
    命令    nl /etc/passwd | sed 's/root/rootUser/g'

    ********多点编辑********
    <1> sed承接多个编辑命令,如:删除/etc/passwd第三行到末尾的数据,并把bash替换成blueshell
    命令    nl /etc/passwd | sed -e '3,$d' -e 's/bash/blueshell/'
    ********直接修改文件内容********
    <1>在test.txt最后一行加入[This is a test]
    命令    sed -i '$a This is a test' test.txt

3. awk命令

awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。
1. 命令格式
    awk '{pattern + action}' {filenames}
2. 功能描述
    pattern就是要表示的正则表达式,用斜杠括起来。而action是在找到匹配内容时所执行的一系列命令。
    awk最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息,awk抽取信息后才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
    通常,awk是以文件的一行为处理单位的。awk每接收文件的一行,然后执行相应的命令,来处理文本。
3. awk 内置变量
awk有许多内置变量用来设置环境信息,这些变量可以被改变,下面给出了最常用的一些变量。
   ARGC    :命令行参数个数
    ARGV    :命令行参数排列
    ENVIRON :支持队列中系统环境变量的使用
    FILENAME:awk浏览的文件名
    FNR     :浏览文件的记录数
    FS      :设置输入域分隔符,等价于命令行 -F选项,默认分隔符是\tab
    NF      :浏览记录的域的个数
    NR      :已读的记录数
    OFS     :输出域分隔符
    ORS     :输出记录分隔符
    RS      :控制记录分隔符
    $0      :整条记录
    $1      :表示当前行的第一个域
4. 使用示例
    示例数据:
        命令    last -n 5    #仅取出前五行
        结果
               root     pts/1   192.168.1.100  Tue Feb 10 11:21   still logged in
               root     pts/1   192.168.1.100  Tue Feb 10 00:46 - 02:28  01:41.
               root     pts/1   192.168.1.100  Mon Feb  9 11:41 - 18:30  06:48.
               tledu    pts/1   192.168.1.100  Mon Feb  9 11:41 - 11:41  00:00.
               root     tty1                   Fri Sep  5 14:09 - 14:10  00:01.
    <1> 如果只是显示最近登录的5个账号
 命令    last -n 5 | awk '{print $1}'
    说明:读入有换行符分割的一条记录,然后将记录按指定的域分割符划分域,填充域。$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键"或"[tab]键",所以$1表示登录用户,$3表示登录用户ip,以此类推。
    <2> 只显示/etc/passwd的账户
  
  命令    cat /etc/passwd | awk -F ':' '{print $1}'
    <3> 只显示/etc/passwd的账户和账户对应的shell,而账户和shell之间以tab键分割
   
 命令    cat /etc/passwd | awk -F ':' '{print $1"\t"$7}'
    <4> 只显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"
   
 命令    cat /etc/passwd | awk -F ':' 'BEGIN {print "name,shell"} {print $1","$7} END {print "blue,/bin/nosh"}'
    <5> 搜索/etc/passwd有root关键字的所有行
    命令    awk -F : '/root/' /etc/passwd
    <6> 搜索/etc/passwd有root关键字的所有行,并显示对应的shell
  
  命令    awk -F : '/root/{print $7}' /etc/passwd
 
 
    <7> 统计/etc/passwd的文件名,每行的行号,每行的列数,对应的完整行内容
     命令    awk -F ':' '{print "filename:" FILENAME ",linenum:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
5.awk编程
5.1 变量和赋值
除了awk的内置变量,awk还可以自定义变量。
<1> 下面统计/etc/passwd的账户人数
命令    awk '{count++;print $0;} END{print "user count is ",count}' /etc/passwd
说明:count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句,而action{}可以有多个语句,以;号隔开。
<2> 上例中没有初始化count变量的值,妥当起见,还是先赋值
命令    awk 'BEGIN {count=0;print "[start]user count is ",count} {count++;print $0;} END{print "user count is ",count}'
<3> 统计某个文件夹下的文件占用的字节数
命令    ls -l|awk 'BEGIN {size=0;} {size+=$5;} END{print "[end]size is ",size}'
说明:统计不包括文件夹的子目录
5.2 条件语句
声明方式: 
    if表达式. {语句;}
    if表达式1. {语句;} else if表达式2. {语句;}
    if表达式. {语句;} else {语句;}
    <1> 统计某个文件夹下的文件占用的字节数,过滤4096大小的文件一般都是文件夹.
  
  命令    ls -l | awk 'BEGIN {size=0;print "[start]size is ",size} {if($5!=4096) {size+=$5;}} END{print "[end]size is ",size/1024/1024,"M"}'
5.3 循环语句
声明方式:
    while、do/while、for、break、continue

4. seq命令 

seq命令用于以指定增量从首数开始打印数字到尾数,即产生从某个数到另外一个数之间的所有整数,并且可以对整数的格式、宽度、分割符号进行控制。
1. 命令格式
    seq [选项] 尾数
    seq [选项] 首数 尾数
    seq [选项] 首数 增量 尾数
2. 选项
    -f:--format,格式
    -s:--separator,字符串,使用指定的字符串分割数字默认使用个"\n"分割.
    -w:--sequal-width,在列前添加0,使得宽度相同
3. 使用示例
    <1> 产生5以内的整数
    命令    seq 5
    <2> 产生-2~10内的整数,增量为2
    命令    seq -2 2 10
    <3> 产生98~101之间的整数,并且要求输出数字宽度相同,不足的用空格补足
    命令    seq -f "%3g" 98 101
    结果
             98
             99
            100
            101
    <4> 产生98~101之间的整数,并且要求数字之间的分隔符为":::"
    命令    seq -s ":::" -f "%03g" 98 101
    <5> 输出98~100之间的整数,要求宽度一致
    命令    seq -w 98 101
    注意:-w不能和-f一起用,输出是同宽的

5. cut命令

cut命令用来显示行中的指定部分,删除文件中指定字段。cut经常用来显示文件的内容。
说明:该命令有两项功能,其一是用来显示文件的内容,它依次读取由参数file所指 明的文件,将它们的内容输出到标准输出上;其二是连接两个或多个文件,如cut fl f2 > f3将把文件fl和f2的内容合并起来,然后通过输出重定向符“>”的作用,将它们放入文件f3中。
1. 命令格式
cut选项 参数.
2.选项
-b:仅显示行中指定直接范围的内容
-c:仅显示行中指定范围的字符
-d:指定字段的分隔符,默认的字段分隔符为“TAB”
-f:显示指定字段的内容
-n:与“-b”选项连用,不分割多字节字符
--complement:补足被选择的字节、字符或字段
 3.参数
文件:指定要进行内容过滤的文件。
4.常用示例
例如有一个学生报表信息,包含No、Name、Mark、Percent:
​
[root@localhost text]# cat test.txt 
No     Name      Mark      Percent
01     tom       69        91
02     jack      71        87
03     alex      68        98
​
使用-f选项提取指定字段:
[root@localhost text]# cut -f 1 test.txt 
No
01
02
03

[root@localhost text]# cut -f 2,3 test.txt 
Name   Mark
tom    69
jack   71
alex   68
--complement 选项提取指定字段之外的列(打印除了第二列之外的列):
[root@localhost text]# cut -f 2 --complement test.txt 
No     Mark      Percent
01     69        91
02     71        87
03     68        98
使用-d选项指定字段分隔符:
[root@localhost text]# cat test2.txt 
No;Name;Mark;Percent
01;tom;69;91
02;jack;71;87
03;alex;68;98
[root@localhost text]# cut -f 2 –d ";" test2.txt 
Name
tom
jack
alex

6. sort命令

sort命令是在Linux里非常有用,它将文件进行排序,并将排序结果标准输出。sort命令既可以从特定的文件,也可以从stdin中获取输入。
1. 命令格式
sort选项.参数.
2.选项
-b:忽略每行前面开始出的空格字符;
-c:检查文件是否已经按照顺序排序;
-d:排序时,处理英文字母、数字及空格字符外,忽略其他的字符;
-f:排序时,将小写字母视为大写字母;
-i:排序时,除了040至176之间的ASCII字符外,忽略其他的字符;
-m:将几个排序号的文件进行合并;
-M:将前面3个字母依照月份的缩写进行排序;
-n:依照数值的大小排序;
-o<输出文件>:将排序后的结果存入制定的文件;
-r:以相反的顺序来排序;
-t<分隔字符>:指定排序时所用的栏位分隔字符;
+<起始栏位>-<结束栏位>:以指定的栏位来排序,范围由起始栏位到结束栏位的前一栏位。
3.参数
文件:指定待排序的文件列表。
4.常用示例
sort将文件/文本的每一行作为一个单位,相互比较,比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出。
​
[root@mail text]# cat sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
eee:50:5.5
​
按照字符排序
[root@mail text]# sort sort.txt
aaa:10:1.1
bbb:20:2.2
ccc:30:3.3
ddd:40:4.4
eee:50:5.5
eee:50:5.5
忽略相同行使用-u选项或者uniq
[root@mail text]# cat sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
eee:50:5.5
[root@mail text]# sort -u sort.txt
aaa:10:1.1
bbb:20:2.2
ccc:30:3.3
ddd:40:4.4
eee:50:5.5
或者
[root@mail text]# uniq sort.txt
aaa:10:1.1
ccc:30:3.3
ddd:40:4.4
bbb:20:2.2
eee:50:5.5
注:uniq本身去重,是按照相邻行内容相同的规则进行去重
sort的-n、-r、-k、-t选项的使用:
[root@mail text]# cat sort.txt
AAA:BB:CC
aaa:30:1.6
ccc:50:3.3
ddd:20:4.2
bbb:10:2.5
eee:40:5.4
eee:60:5.1
将BB列按照数字从小到大顺序排列:

有时候经常使用sort来排序,需要预处理把需要排序的field语言在最前面。实际上这是

完全没有必要的,利用-k参数就足够了。

比如sort all

1 4
2 3
3 2
4 1
5 0
如果sort -k 2的话,那么执行结果就是

5 0
4 1
3 2
2 3
1 4
 
 
[root@mail text]# sort -nk2 -t: sort.txt
AAA:BB:CC
bbb:10:2.5
ddd:20:4.2
aaa:30:1.6
eee:40:5.4
ccc:50:3.3
eee:60:5.1
将CC列数字从大到小顺序排列:
[root@mail text]# sort -nrk3 -t: sort.txt
eee:40:5.4
eee:60:5.1
ddd:20:4.2
ccc:50:3.3
bbb:10:2.5
aaa:30:1.6
AAA:BB:CC
# -n是按照数字大小排序,-r是以相反顺序,-k是指定需要排序的栏位,-t指定栏位分隔符为冒号

7. uniq命令

如果排序完成了,将重复的行仅显示一次。注意,若文件未排序,该命令失效。
1.命令格式
uniq [-ic] filename
2.参数
-i:忽略大小写
-c:统计每行重复的次数
-d或--repeated:仅显示重复出现的行列;
3.使用示例
对文件的内容进行去重
sort input.txt | uniq
或者写成sort –u input.txt
注意不要单独使用:uniq input.txt,是达不到不相邻行的去重效果
统计各行在文件中出现的次数
sort file.txt | uniq -c
在文件中找出重复的行
sort file.txt | uniq -d

8. wc命令

统计文件中有多少行,多少字,多少字符
1.命令格式
wc [-lwm] filename
2.参数
-l:仅显示行数
-w:仅显示字数英文单词个数.
-m:字符数
3.常用示例
查看一个文件中有多少行
wc -l input.txt

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值