shell脚本之正则表达式（加sort、uniq和tr）

1 sort命令

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

sort [选项] 参数
cat file | sort 选项

常用选项	功能
-f	忽略大小写
-b	忽略前导的空白区域
-M	按照三字符月份进行排序
-n	按照数字进行排序
-r	反向排序
-u	等同于uniq，表示相同的数据仅显示一行
-t	指定字段分隔符，默认使用[Tab]键分隔
-k	指定排序字段
-o <输出文件>	将排序后的结果转存至指定文件

[root@jkjk data]# sort -t ':' -k 1 /etc/passwd -o ./passwd.txt
[root@jkjk data]# cat passwd.txt

[root@jkjk data]# du -ah | sort -nr -o du.txt

 

2 uniq命令

用于报告或者忽略文件中连续的重复行，常与 sort 命令结合使用

uniq [选项] 参数

cat file | uniq 选项

常用选项	功能
-c	进行计数，并删除文件中重复出现的行
-d	仅显示重复行
-u	仅显示出现一次的行

 3 tr命令

常用来对来自标准输入的字符进行替换、压缩和删除

tr [选项] [参数]

常用选项	作用
-c	保留字符集1的字符，其他的字符用（包括换行符\n）字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项同结果。

[root@jkjk data]# echo "hello" | tr 'a-z' 'A-Z'

[root@jkjk data]# echo "hello" | tr -t 'a-z' 'A-Z'
#tr命令将输出的字符串中的小写改成大写，默认带-t

[root@jkjk data]# echo abccabacca | tr -c "ab" "0"
ab00aba00a0[root@jkjk data]# echo abccabacca | tr -c "ab\n" "0"
ab00aba00a

#输出一段字符串，将字符串除了"ab和换行"，都替换成"0",

不加换行，换行也会被替换成0，下一行的就会紧贴着输出的字符。

echo "abcdefg" | tr -d "de" #删除将要输出字符串中的d和e

echo "abbcccddddaaaaa" | tr -s "abcd" #将连续出现重复的字符压缩成一个

echo $PATH | tr -s ":" "\n" #把路径变量中的冒号":"，替换成换行符"\n"

echo ${arr[*]} | tr ' ' '\n' | sort -n #使用命令进行排序

4 正则表达式

1.定义：

正则表达式(regular expression)描述了一种字符串匹配的模式，可以用来检查一个串是否含有某种子串、将匹配的子串做替换或者从某个串中取出符合某个条件的子串等。构造正则表达式的方法和创建数学表达式的方法一样。也就是用多种元字符与运算符可以将小的表达式结合在一起来创建更大的表达式。正则表达式的组件可以是单个的字符、字符集合、字符范围、字符间的选择或者所有这些组件的任意组合

2.组成：

正则表达式是由普通字符（例如字符 a 到 z）以及特殊字符（称为"元字符"）组成的文字模式。模式描述在搜索文本时要匹配的一个或多个字符串。正则表达式作为一个模板，将某个字符模式与所搜索的字符串进行匹配

1）基础正则表达式

基础正则表达式常见元字符：
\ ：转义字符，用于取消特殊符号的含义，例：\!、\n、\$等

^ ：匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
 
$ ：匹配字符串结束的位置，例：word$、^$匹配空行

. ：匹配除\n之外的任意的一个字符，例：go.d、g..d

* ：匹配前面子表达式0次或者多次，例：goo*d、go.*d

[list] ：匹配list列表中的一个字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字

[^list] ：匹配任意非list列表中的一个字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母

\{n\} ：匹配前面的子表达式n次，例：go\{2\}d、'[0-9]\{2\}'匹配两位数字

\{n,\} ：匹配前面的子表达式不少于n次，例：go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字

\{n,m\} ：匹配前面的子表达式n到m次，例：go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字

注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”

2）扩展正则表达式

扩展正则表达式元字符：
+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o，如god、good、goood等

? ：匹配前面子表达式0次或者1次，例：go?d，将匹配gd或god

() ：将括号中的字符串作为一个整体，例1：g(oo)+d，将匹配oo整体1次以上，如good、gooood等

| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad

3）使用正则表达式

#以139开头，后面随机8位数字组合
"^139[0-9]{8}$"

egrep "^139[0-9]{8}$" shoujihao.txt
grep "^139[0-9]\{8\}$" shoujihao.txt 

用户名@ ：^([a-zA-Z0-9_\-\.\+]+)@
子域名 ：([a-zA-Z0-9_\-\.]+)
.顶级域名(字符串长度一般在2到5) ：\.([a-zA-Z]\{2,5\})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt