Shell脚本------正则表达式与常用命令（sort，uniq，tr，cut）

一.sort命令

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

1.语法格式

sort    [选项]	  参数
cat   文件名   |  sort   选项

2.常用选项

选项	作用
-f	忽略大小写，会将小写字母都转换为大写字母来进行比较
-b	忽略每行前面的空格
-n	按照数字进行排序
r	反向排序
-u	等同于uniq，表示相同的数据仅显示一行
-t	指定字段分隔符，默认使用[Tab]键分隔
-k	指定排序字段
-o <输出文件>	将排序后的结果转存至指定文件

3.示例

sort  -t  ':'  -k  3  -n  /etc/passwd         将etc/passwd文件中以“：”为分隔符的第三个字段排序  

du  -a  | sort  -nr  -o  du.txt				
统计本目录下的文件和目录将结果交给sort排序，sort进行反向排序然后将排序结果转存到du.txt中

二.uniq命令

用于报告或者忽略文件中连续的重复行，常与sort命令结合使用

1.语法格式

uniq    [选项]	参数
cat	文件名 | uniq  选项

2.常用选项

选项	作用
-c	进行计数，并删除文件中重复出现的行
-d	仅显示连续的重复行
-u	仅显示出现一次的行

3.示例

sort  -n  1.txt   |  uniq -c
sort排序文件1.txt内的内容后把它交给uniq处理，uniq进行计数并删除文件重复出现的行

三.tr命令

常用来对来自标准输入的字符进行替换，压缩和删除

1.语法格式

tr    [选项]		[参数]

2.常用选项

选项	作用
-c	保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项通结果

参数：
字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
字符集2：指定要转换成的目标字符集。

3.示例

echo "abc" | tr 'a-z' 'A-C'
将echo输出的内容中小写的“a-z”的字母全部换成大写的“A-Z”字母

echo -e "abc\ncabcdad"				输出转义字符，将转义后的内容输出到屏幕上
echo -e "abc\ncabcdad" | tr -c "ab\n"  "0"
echo输出内容交给tr处理，保留字符集“a，b，换行符\n”，其他字符用字符集“0”替换		
echo -e "abc\ncabcdad" | tr -c "ab"  "0"
echo输出内容交给tr处理，保留字符集“a，b”，其他字符用字符集“0”替换		

echo  'hello world'  
echo  'hello world'  | tr -d "od"		将echo输出的内容中的字符“od”进行删除

echo "thisssss is a text linnnnnnnne"
echo "thisssss is a text linnnnnnnne"  | tr -s 'sn'
echo输出的内容中，重复出现的字符串‘sn’压缩成一个字符串

✪删除空行
echo  -e  "aa\n\n\n\n\n\nbb" 		输出转义字符，将转义后的内容输出到屏幕上
echo  -e  "aa\n\n\n\n\n\nbb" | tr -s "\n"
echo输出内容交给tr处理，tr将重复出现的换行符压缩为一个换行符输出

✪把路径变量中的冒号"："，替换成换行符"\n"
echo  -e  "aa\n\n\n\n\n\nbb" 		输出转义字符，将转义后的内容输出到屏幕上
echo  -e  "aa\n\n\n\n\n\nbb" | tr -s "\n"	“：”
echo输出内容交给tr处理，tr将重复出现的换行符压缩为一个换行符输出，然后用冒号":"替换换行符"\n"

✪删除Windows文件造成的“^M”字符
cat -e  windows.txt
cat windows.txt | tr -s "\r""\n" > window.txt		
查看文件，将文件中的回车符“\r”替换成换行符“\n”，然后输出到新文件中
或cat windows.txt | tr -d "\r" > window.txt
查看文件，将文件中的回车符“\r”删除，然后输出到新文件中

✪Linux中遇到换行符（“\n”）会进行回车+换行的操作，回车符反而只会作为控制字符（“^M”）显示，不会发生回车的操作。
而windows中要回车符+换行符（"\r\n"）才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。
cat  -v  windows.txt
dos2unix windows.txt			将windows格式文件转换为Linux格式的命令

✪数组排序
arr=(40 20 60 10 30 50)
echo ${arr[*]}  | tr ' ' '\n' | sort -n 
输出数组的所有元素，然后将其中的空格换成换行符“\n”，最后进行排序

四.cut命令

显示行中的指定部分，删除文件中指定字段

1.语法格式

cut    [选项]     参数
cat   文件名   | cut 	选项

2.常用选项

选项	作用
-f	通过指定哪一个字段进行提取，cut命令使用“TAB”作为默认的字段分隔符
-d	“TAB”是默认的分隔符，使用此选项可以更改为其他的分隔符
–complement	此选项用于排除所指定的字段
–output-delimiter	更改输出内容的分隔符

3.示例

cut -d  ':' -f 1 /etc/passwd
显示以冒号“：”为分隔符，/etc/passwd文件中的第一个字段

grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7    以——分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2     排除第二个字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/passwd            输出分隔符使用空格分隔

i=123456789
echo $i  |  cut  -b  1-3			 起始位置从1开始，总共截取3位

echo ${i:0:3}						 起始位置从0开始，向后截取3位
expr substr $i	1 3					 起始位置从1开始，总共截取3位

五.正则表达式

通常用于判断语句中，用来检查某一字符串是否满足某一格式

1.正则表达式的组成

✪正则表达式是由普通字符与元字符组成
❉普通字符包括大小写字母，数字，标点符号及一些其他符号
❉元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

2.常见正则表达式元字符（支持工具grep，egrep，sed，awk）

3.拓展正则表达式元字符（支持工具：egrep，awk）

4.示例

1.匹配电话号码

2.匹配邮箱

用户名@ ：^([a-zA-Z0-9_\-\.\+]+)@
子域名 ：([a-zA-Z0-9_\-\.]+)
.顶级域名(字符串长度一般在2到5) ：\.([a-zA-Z]\{2,5\})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' 2.txt