cut命令
含义
正如cut的中文意思,cut的工作就是“剪”,具体来说是在文件负责剪切数据用的,它以每一行为一个处理对象,与sed的机制是一样的。
剪切依据
cut命令主要是接受三个定位方法:
第一,字节(bytes),用选项-b
第二,字符(characters),用选项-c
第三,域(fields),用选项-f
语法格式
cut [-bn] [file] 或 cut [-c] [file] 或 cut [-df] [file]
使用说明
cut命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段写至标准输出。
如果不指定 File 参数,cut 命令将读取标准输入。必须指定 -b、-c 或 -f 标志之一。
主要参数
-b :以字节为单位进行分割。这些字节位置将忽略多字节字符边界,除非也指定了 -n 标志。
-c :以字符为单位进行分割。
-d :自定义分隔符,默认为制表符。
-f :与-d一起使用,指定显示哪个区域。
-n :取消分割多字节字符。仅和 -b 标志一起使用。如果字符的最后一个字节落在由 -b 标志的 List 参数指示的
范围之内,该字符将被写出;否则,该字符将被排除。
常用示例:
“字节”定位中,提取第1到第5和第10个字节,-b支持形如1-5的写法,而且多个定位之间用逗号隔开
注意,cut命令如果使用了-b选项,那么执行此命令时,cut会先把-b后面所有的定位进行从小到大排序,然后再提取。
示例1:提取第1到第5字节和第10个字节的内容
[root@moli_linux1 ~]$ echo "abcde12345" | cut -b 1-5,10
abcde5
示例2:-3表示从第1个字节到第3个字节,3-表示从第3个字节到行尾
[root@moli_linux1 ~]$ echo "abcde54321" | cut -b -3
abc
[root@moli_linux1 ~]$ echo "abcde54321" | cut -b 3-
cde54321
示例3:多字节字符处理
1个空格算1个字节,而1个汉字算3个字节,因此汉字是多字节字符.遇到多字节字符可以使用-c选项,也可以使用-b选项,不过要结合-n选项,-n选项告诉cut命令不要将多字节字符拆开。
[root@moli_linux1 ~]$ cat cut_test2.txt
星期一aa
星期二bb
星期三cc
[root@moli_linux1 ~]$ cut -b 3 cut_test2.txt # 因为没加-n选项,因此将"星"字给拆分了..
[root@moli_linux1 ~]$ cut -nb 3 cut_test2.txt # 切割第3个字符
一
二
三
[root@moli_linux1 ~]$ cut -c 3 cut_test2.txt
一
二
三
[root@moli_linux1 ~]$ cut -c 4,5 cut_test2.txt
aa
bb
cc
[root@moli_linux1 ~]$ cut -nb 4,5 cut_test2.txt
aa
bb
cc
示例4:对于非固定格式的文档,使用-f选项来定义域来切割文件
[root@moli_linux1 ~]$ head -n 5 /etc/passwd > cut_test.txt
[root@moli_linux1 ~]$ cat cut_test.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
[root@moli_linux1 ~]$ cut -d ":" -f 1-3,5 cut_test.txt
root:x:0:root
bin:x:1:bin
daemon:x:2:daemon
adm:x:3:adm
lp:x:4:lp
上面的cut -d ":" -f 1-3,5 cut_test.txt中,-d选项指定:为分割符,每个分隔符作为一个域,-f后面的数字指定切割哪个域,这里1-3,5表示截取第1,2,3和第5个域。
sort命令
说明
sort命令将文件进行排序,并将排序结果标准输出。sort命令既可以从特定的文件,也可以从stdin中获取输入。
工作原理
sort将文件的每一行作为一个单位,相互比较,比较原则是从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出。
语法
sort(选项)(参数)
常用选项
-u:unique 唯一,排序并且排除重复项
-n: number 按照数字进行排序,默认数字会被当作字符串进行比较,字符或者其他特殊符号会被当做0排在数字前面
-r:反向排序
-b:忽略每行前面开始出的空格字符
示例1:-u选项
[root@moli_linux1 ~]$ cat sort_test.txt
hello
world
>>>
hello
12345
shell
???
have a space
[root@moli_linux1 ~]$ sort -u sort_test.txt # 去除重复hello并排序
>>>
???
12345
have a space
hello
shell
world
示例2:-n选项。按照数字进行排序,默认数字会被当作字符串进行比较,字符或者其他特殊符号会被当做0排在数字前面
[root@moli_linux1 ~]$ cat sort_test2.txt
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -n sort_test2.txt
???
hello
123
123
124
234
987
示例3:反向排序-r
[root@moli_linux1 ~]$ cat sort_test2.txt
987
124
123
234
???
hello
123
[root@moli_linux1 ~]$ sort -rn sort_test2.txt
987
234
124
123
123
hello
???
uniq命令
说明
uniq命令用于报告或忽略文件中的重复行,一般与sort命令结合使用。对于uniq来说,去除重复的内容,内容之间必须相邻,不然无法去除。因此多先用sort排序,再用uniq去重。
语法
uniq(选项)(参数)
常用选项
-c:在每列旁边显示该行重复出现的次数
-d: 仅显示重复出现的行列;
示例1
[root@moli_linux1 ~]$ cat uniq.txt
hello
world
hello
python
1
1
2
3
[root@moli_linux1 ~]$ uniq uniq.txt # 只会去除相邻的重复内容数字1,不相邻的重复内容hello不会被删除
hello
world
hello
python
1
2
3
示例2,结合sort删除所有重复内容
[root@moli_linux1 ~]$ sort uniq.txt |uniq
1
2
3
hello
python
world
示例3:统计各行在文件中出现的次数
[root@moli_linux1 ~]$ sort uniq.txt |uniq -c
2 1
1 2
1 3
2 hello
1 python
1 world
示例4:找出文件中重复的行
[root@moli_linux1 ~]$ sort uniq.txt |uniq -d
1
hello
总结:这三个命令经常在shell脚本中使用,除了grep,sed,awk三个之外,也需要熟练掌握。