正则表达式及sort、uniq、tr、cut命令

sort 命令

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

语法格式

sort [选项]  参数
cat  file | sort  选项

常用选项

• -f：忽略大小写，默认会将大写字母排在前面
• -b：忽略每行前面的空格
• -n：按照数字进行排序
• -r：反向排序
• -u：等同于uniq，表示相同的数据仅显示一行
• -t：指定字段分隔符，默认使用[Tab]键分隔
• -k：指定排序字段
• -o <输出文件>：将排序后的结果转存至指定文件

[root@localhost ~]# cat 10.txt 
1
2
100
45
3
333
444                                  #文本里是这样乱序的数字排列
10
145
75
333
444
555
155
666
777

[root@localhost ~]# sort 10.txt       #直接使用sort 得到的结果是按照首个数字进行排序
1
10
100
145
155
2
3
333                         
333
444
444
45
555
666
75
777

[root@localhost ~]# sort -n 10.txt          #sort-n是按照数字大小排序
1
2
3
10
45                                          
75
100
145
155
333
333
444
444
555
666
777

[root@localhost ~]# sort -nr 10.txt   #sort-r是倒序排列
777
666
555
444
444
333
333
155
145
100
75
45
10
3
2
1

[root@localhost ~]# sort -u 10.txt         #sort-u去重
1
10
100
145
155
2
3
333
444
45
555
666
75
777

[root@localhost ~]# cat /etc/passwd | sort -t ',' -k3 -n   #查看/etc/passwd中第三列的信息，间隔符为”：“，按照数字大小排序
abrt:x:173:173::/etc/abrt:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
apache:x:48:48:Apache:/usr/share/httpd:/sbin/nologin
avahi:x:70:70:Avahi mDNS/DNS-SD Stack:/var/run/avahi-daemon:/sbin/nologin
bin:x:1:1:bin:/bin:/sbin/nologin
chrony:x:994:990::/var/lib/chrony:/sbin/nologin
colord:x:997:994:User for colord:/var/lib/colord:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
dbus:x:81:81:System message bus:/:/sbin/nologin
dhcpd:x:177:177:DHCP server:/:/sbin/nologin

uniq 命令

用于报告或者忽略文件中连续的重复行，常与sort命令结合使用

语法格式

uniq  [选项]  参数
cat  file  |uniq  选项

常用选项

• -c：进行计数,并删除文件中连续重复出现的行
• -d：仅显示连续的重复行
• -u：仅显示不连续的只出现一次的行

[root@localhost ~]# cat testfile 
11
22
22
33
44
55
55
55
33
11
44
44
22

[root@localhost ~]# uniq testfile    #使用uniq命令删除重复的行,但是不相邻的行还是有重复的
11
22
33
44
55
33
11
44
22

[root@localhost ~]# sort -n testfile | uniq    #可以直接使用sort -u或者像这样处理可以只显示不重复行
11
22
33
44
55

[root@localhost ~]# uniq -d testfile       #仅显示重复的行
22
55
44

[root@localhost ~]# cat testfile 
11
22
22
33
44
55
55
55
30
77
11
44
44
22
[root@localhost ~]# uniq -u testfile           #uniq-u仅显示不连续的重复行，所以这里有重复的数字出现
11
33
44
30
77
11
22
[root@localhost ~]# cat testfile |sort -n |uniq -u     #这种情况可以先使用sort-n进行排序，再uniq-u显示
30
33
77

tr 命令

常用来对来自标准输入的字符进行替换、压缩和删除’

语法格式

tr [选项]  [参数]

常用选项

• -c：保留字符集1的字符，其他的字符(包括换行符\n)用字符集2替换
• -d：删除所有属于字符集1的字符
• -s：将重复出现的字符串压缩为一个字符串；用字符集2替换字符集1
• -t：字符集2替换字符集1，不加选项同结果

参数

• 字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2"指定转换的目标字符集。但执行删除操作时，不需要参数"字符集2"。
• 字符集2：指定要转换成的目标字符集。

[root@localhost ~]# echo "abc" |tr "a-z" "A-Z"      #把小写替换成大写
ABC
[root@localhost ~]# echo -e "abc\ncabcdab"|tr -c "ab" "0"     这里只保留”ab“，所以会将包括行尾的换行符全替换成0，显示也是不换行
ab000ab00ab0[root@localhost ~]#
[root@localhost ~]# echo -e "abc\ncabcdab"|tr -c "ab\n" "0"      #这里是将”换行符和ab“全都保留
ab0
0ab00ab

[root@localhost ~]# echo "hello wold"|tr -d 'od'  #tr -d是将匹配到的”o“”d“全部删除
hell wl
[root@localhost ~]# echo "thissss is a text linnnnnnnne"|tr -s 'sn'       #tr -s有去重的意思，但是注意不能去空格
this is a text line
[root@localhost ~]# echo "thissss is a text linnnn   nnnne"|tr -s 'sn'
this is a text lin   ne
[root@localhost ~]# 

删除空行：
[root@localhost ~]# cat 22.txt 
aa







bb
方法一：[root@localhost ~]# cat 22.txt | tr -s "\n"
aa
bb
方法二：[root@localhost ~]# cat 22.txt | grep -v "^$"
aa
bb

删除路径变量中的冒号”：“，替换成换行符”\n“
[root@localhost ~]# echo $PATH
/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin
[root@localhost ~]# echo $PATH | tr -s ":" " "
/usr/local/sbin /usr/local/bin /usr/sbin /usr/bin /root/bin
[root@localhost ~]# 

数组排序

[root@localhost ~]# arr1=(20 40 50 10 70 )     #先创建一个数组
[root@localhost ~]# echo ${arr1[*]}               #输出这个数组
20 40 50 10 70
[root@localhost ~]# echo ${arr1[*]} | tr -s " " "\n"         #输出这个数组并交给tr将空格替换为换行符
20
40
50
10
70
[root@localhost ~]# echo ${arr1[*]} | tr -s " " "\n" | sort -n    #替换完之后就是按竖行显示了，下面对这组数进行sort排序就完成了用命令对数组进行排序
10
20
40
50
70

cut 命令

显示行中的指定部分，删除文件中指 定字段

语法格式

cut  选项 参数
cat  file  | cut  选项

常用选项

• -f：通过指定哪一个字段进行提取。cut命令使用"TAB"作为默认的字段分隔符。
• -d ："TAB"是默认的分隔符，使用此选项可以更改为其他的分隔符。
• –comp lement ：此选项用于排除所指定的字段。
• –output-delimiter ：更改输出内容的分隔符。
  
  

截取某一个字段三种方法

[root@localhost ~]# i=123456789

[root@localhost ~]# echo $i | cut -b 1-3
123
[root@localhost ~]# echo ${i:0:3}
123
[root@localhost ~]# expr substr $i 1 3
123

正则表达式

通常用于判断语句中，用来检查某一字符串是否满足某一格式

正则表达式是由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号
元字符是指在正则表达式中具有特殊意义的专有字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

基础正则表达式常见元字符：（支持的工具：grep、egrep、sed、awk）

\ :转义字符，用于取消特殊符号的含义，例: \!、\n、\$等

^ :匹配字符串开始的位置，例: ^a、 ^the、 ^#、^[a-z]

$ :匹配字符串结束的位置，例: word$、 ^$匹配空行

. :匹配除\n之外的任意的一个字符，例: go.d、 g..d

* :匹配前面子表达式0次或者多次，例: goo*d、 go.*d

[list] :匹配list列表中的一个字符，例: go[ola]d， [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字

[^list] :匹配任意非list列表中的一个字符，例: [^0-9]、 [^A-20-9]、 [^a-z]匹配任意一位非小写字母

\{n\} :匹配前面的子表达式n次，例: go\{2\}d、 '[0-9]\{2\} '匹配两位数字

\{n,\} :匹配前而的子表达式不少于n次，例: go\{2, \}d、'[0-9]\{2, \}'匹配两位及两位以上数字

\{n,m\} :匹配前面的子表达式n到m次，例: go\{2,3\}d、 ' [0-9]\{2,3\}'匹配两位到三位数字

注: egrep、 awk使用{n}、{n,}、{n, m}匹配时“{}”前不用加" \ "

扩展正则表达式元字符：（支持的工具：egrep、awk，或者grep -E、sed -r）

+ :匹配前面子表达式1次以上，例: go+d, 将匹配至少一个o， 如god、 good、 goood等

? :匹配前面子表达式0次或者1次，例: go?d， 将匹配gd或god

() :将括号中的字符串作为h一个整体，例1: g(oo)+d," 将匹配oo整体1次以上，如good、gooood等

| :以或的方式匹配字条串，例: g (oo|la)d," 将匹配good或者glad

正则表达式匹配E-mail地址

用户名@：^([a-zA-z0-9_\-\.\+]+)@
子域名  ：（[a-zA-Z0-9_\-\.]+)
.顶级域名（字符串长度一般在2到5）：\.([a-zA-Z]{2,5})$

使用正则表达式匹配电话号码