sort、uniq、tr命令与正则表达式

一、sort命令

概述

• sort 命令用于将文件内容进行排序，并将排序结果打印到标准输出
• 它将文件的每一行文本视为一个单位，以行为单位对文件内容进行排序
• 也可以根据不同的数据类型来排序

常用选项	英文	功能
-f	ignore-case	忽略大小写
-b	ignore-leading-blanks	忽略前导的空白区域
-M	month-sort	按照三字符月份进行排序
-n	numeric-sort	按照数字进行排序
-r	reverse	反向排序
-u	unique	等同于uniq，表示相同的数据仅显示一行
-t	field-separator	指定字段分隔符，默认使用[Tab]键分隔
-k	key=KEYDEF	指定排序字段
-o	output	<输出文件> 将排序后的结果转存至指定文件

语法格式：

sort [选项] [参数]

cat [对象] | sort [选项]

示例：

sort -t ':' -k 1  /etc/passwd -o ./passwd.txt

du -ah | sort -nr -o du.txt

二、uniq命令

概述

• 用于报告或者忽略文件中连续的重复行，常与sort命令结合使用
  语法格式：

uniq 选项 参数
cat file | uniq 选项

常用选项	功能
-c	（count）进行计数，并删除文件中重复出现的行
-d	（repeated）仅显示重复行
-u	（unique）仅显示出现一次的行

三、tr命令

• 常用于对来自标准输入的字符进行替换、压缩和删除

语法格式：

tr [选项] [字符集1 字符集2]

##没有选项，则默认将标准输入中所有属于字符集1 的字符替换为字符集2中的字符

常用选项	作用
-c	保留字符集1的字符，其他的字符用（包括换行符\n）字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项同结果。

参数	作用
字符集1	指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
字符集2	指定要转换成的目标字符集。

• 大小写转换
  
• -c

echo -e "abc\nabc" |tr -c 'ab' 'o'

• -d :删除所有属于字符集1的字符
  
• -s :将重复出现的字符串压缩为一个字符串；用字符集2 替换 字符集1
  
• 删除Windows文件“造成”的’^M’字符

cat file | tr -s "\r" "\n" > new_file
或
cat file | tr -d "\r" > new_file
Linux中遇到换行符("\n")会进行回车+换行的操作，回车符反而只会作为控制字符("^M")显示，不发生回车的操作。
而windows中要回车符+换行符("\r\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。

• 数组排序

echo ${arr[*]} | tr ' ' '\n' | sort -n

四、正则表达式

• 通常用于判断语句中，用来检查某一字符串是否满足某一格式
• 正则表达式是由普通字符与元字符组成
• 普通字符包括大小写字母、数字、标点符号及一些其他符号
• 元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定
• 其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

（1）基础正则表达式

支持的工具：grep、egrep、sed、awk

基础正则表达式常见元字符：
\ ：转义字符，用于取消特殊符号的含义，例：\!、\n、\$等

^ ：匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
 
$ ：匹配字符串结束的位置，例：word$、^$匹配空行

. ：匹配除\n之外的任意的一个字符，例：go.d、g..d

* ：匹配前面子表达式0次或者多次，例：goo*d、go.*d

[list] ：匹配list列表中的一个字符，例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字

[^list] ：匹配任意非list列表中的一个字符，例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母

\{n\} ：匹配前面的子表达式n次，例：go\{2\}d、'[0-9]\{2\}'匹配两位数字

\{n,\} ：匹配前面的子表达式不少于n次，例：go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字

\{n,m\} ：匹配前面的子表达式n到m次，例：go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字

注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”

（2）扩展正则表达式

支持的工具：egrep、awk

扩展正则表达式元字符：
+ ：匹配前面子表达式1次以上，例：go+d，将匹配至少一个o，如god、good、goood等

? ：匹配前面子表达式0次或者1次，例：go?d，将匹配gd或god

() ：将括号中的字符串作为一个整体，例1：g(oo)+d，将匹配oo整体1次以上，如good、gooood等

| ：以或的方式匹配字条串，例：g(oo|la)d，将匹配good或者glad

示例：