Linux sort、uniq、tr等命令和正则表达式

Linux sort、uniq、tr等命令和正则表达式

一、排序命令——sort

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

sort 选项 参数
cat file | sort 选项

常用选项：
① -f：忽略大小写，默认会大写字母排在前面
② -b：忽略每行前面的空格
③ -n：按照数字进行排序
④ -r：反向排序
⑤ -u：等同uniq，表示相同的数据仅显示一行，去重
⑥ -t：指定字段分隔符，默认使用tab键分隔
⑦ -k：指定排序字段
⑧ -o <输出文件>：将排序后的结果转存至指定文件

二、uniq命令

用于报告或者忽略文件中连续的重复行，常与sort命令结合使用

uniq 选项 参数
cat file | uniq 选项

常用选项：
① -c：进行计数，并删除文件中重复出现的行
② -d：仅显示连续的重复行
③ -u：仅显示出现一次的行

三、tr命令

常用于对来自标准输入的字符进行替换、压缩和删除

tr 选项 参数

常用选项：
① -c：保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
② -d：删除所有属于字符集1的字符
③ -s：将重复出现的字符串压缩为一个字符串，用字符集2 替换 字符集1
④ -t：字符集2 替换 字符集1，不加选项同结果

参数：

字符集1：
指定要转换或删除的原字符集。当执行转换操作时，必须使用参数”字符集2“指定转换操作时，必须使用参数”字符集2“指定转换的目标字符集。但执行删除操作时，不需要参数”字符集2“

字符集2：
指定要转换成的目标字符集

echo "abc" | tr 'a-z' 'A-Z'

echo -e "abc\ncabcdab" | tr -C "ab\n" "0"
echo -e "abc\ncabcdab" | tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

echo "thissss is a text 1 innnnnnne." | tr -s 'sn'

删除空行
echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
cat testfile4| tr -s "\n"

把路径变量中的冒号":"，替换成换行符"\n"
echo $PATH | tr -s ":" "\n"
echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"

四、cut命令

显示行中的指定部分，删除文件中指定字段

cut 选项 参数
cat file | cut 选项

常用选项：

-f：通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分隔符。

-d：“TAB”是默认的分隔符，使用此选项可以更改为其他的分隔符。

-complement：此选项用于排除所指定的字段。

–output-delimiter：更改输出内容的分隔符

五、split命令

将一个大的文件拆分成若干份小文件

split 选项 参数 原始文件 拆分后文件前缀

常用选项：

-l：以行数拆分

-b：以大小拆分

六、eval命令

命令字前加上eval时，shell会在执行命令之前扫描它两次。eval命令将首先会先扫描命令行进行所有的置换，然后再执行该命令，该命令适用于那些一次扫描无法实现其功能的变量。该命令会对变量进行两次扫描。

echo “hello world” > file
myfile="cat file"
echo $myfile
eval $myfile

七、正则表达式

通常用于判断语句中，用于检查某一字符串是否满足某一格式

正则表达式是由普通字符与元字符组成

普通字符包括大小写字母、数字、标点符号及一些其他符号

元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

1. 基础正则表达式常见元字符

（支持的工具: grep、 egrep、 sed、 awk)

\ :转义字符，用于取消特殊符号的含义，例: \!、\n、\$等

^ :匹配字符串开始的位置，例: ^a、 ^the、 ^#、^[a-z]

$ :匹配字符串结束的位置，例: word$、 ^$匹配空行

. :匹配除\n之外的任意的一个字符，例: go.d、 g..d

* :匹配前面子表达式0次或者多次，例: goo*d、 go.*d

[list] :匹配list列表中的一个字符，例: go[ola]d， [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字

[^list] :匹配任意非list列表中的一个字符，例: [^0-9]、 [^A-20-9]、 [^a-z]匹配任意一位非小写字母

\{n\} :匹配前面的子表达式n次，例: go\{2\}d、 '[0-9]\{2\} '匹配两位数字

\{n,\} :匹配前而的子表达式不少于n次，例: go\{2, \}d、'[0-9]\{2, \}'匹配两位及两位以上数字

\{n,m\} :匹配前面的子表达式n到m次，例: go\{2,3\}d、 ' [0-9]\{2,3\}'匹配两位到三位数字

注: egrep、 awk使用{n}、{n,小、{n, m}匹配时“{}”前不用加“\”

2. 扩展正则表达式元字符

(支持的工具: egrep、 awk)

+ :匹配前面子表达式1次以上，例: go+d, 将匹配至少一个o， 如god、 good、 goood等

? :匹配前面子表达式0次或者1次，例: go?d， 将匹配gd或god

() :将括号中的字符串作为h一个整体，例1: g(oo)+d," 将匹配oo整体1次以上，如good、gooood等

| :以或的方式匹配字条串，例: g (oo|la)d," 将匹配good或者glad