shell脚本详解之正则表达式与sort、uniq、tr、cut、split、eval命令

目录

常见的管道命令

sort命令

常用选项：

uniq 命令

语法格式

常用选项

tr 命令

语法格式

参数

cut 命令

格式

常用选项

split命令

语法格式

常用选项

eval 命令

正则表达式定义

基础正则表达式常见元字符（支持工具：egrep、awk、grep、sed）

扩展正则表达式元字符（支持工具：egrep、awk）

---

常见的管道命令

sort命令

sort命令可针对文本文件的内容，以行为单位来排序。

格式：

        sort [选项] 参数
        cat file | sort 选项

常用选项：

选项	说明
-f	忽略大小写，会将小写字母都转换为大写字母来进行比较
-b	忽略每行前面的空格
-n	按照数字进行排序
-r	反向排序
-u	等同于uniq，表示相同的数据仅显示一行
-t	指定字段分隔符，默认使用[Tab]键分隔
-k	指定排序字段
-o<输出文件>	将排序后的结果转存至指定文件

小补充：

sort -n testfile1  #按照数字进行排序
sort -t ':' -k 3 -n /etc/passwd    #将/etc/passwd中的指定字段以:为分隔符，按照数字进行排序
du -a | sort -nr -o du.txt  #将当前家目录中的所有文件进行排序，查出占用空间最大的文件并保存至du.txt文件中

uniq 命令

用于报告或者忽略文件中连续的重复行，常于 sort 命令结合使用

语法格式

uniq [选项] 参数
 
cat file | uniq 选项

常用选项

选项	说明
-c	进行计数，并删除文件中重复出现的行
-d	仅显示连续的重复行
-u	仅显示出现一次的行

 

 

tr 命令

常用于来对来自标准输入的字符进项替换、压缩和删除。

语法格式

选项	说明
-c	保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
-d	删除所有属于字符集1的字符
-s	将重复出现的字符串压缩为一个字符串，用字符集2 替换 字符集1
-t	字符集2 替换 字符集1，不加选项同结果

参数

字符集1: 指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
 
字符集2: 指定要转换成的目标字符集。

 

 

 

删除Windows文件“造成"的'^M'字符: 

cat abc.txt I tr -s "\r" "\n" > new_ file
 
或
 
cat abc.txt | tr -d "\r" > new file

Linux中遇到换行符("\n")会进行回车+换行的操作，回车符反而只会作为控制字符("^M")显示，不发生回车的操作。而windows中 要回车符+换行符("\r\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。

cut 命令

显示行中的指定部分，删除文件中的指定字段

格式

cut 参数 catfileIcut 选项

常用选项

选项    说明

选项	说明
-f	通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分割符
-d	“TAB”是默认的分隔符，使用此选项可更改为其他的分隔符
- -complement	用于排除所指定的字段
- -output-delimiter	更改输出内容的分隔符

 

split命令

Linux下将一个大文件拆分成若干个小文件

语法格式

split 选项 参数 原始文件 拆分后文件名前缀

常用选项

-l: 以行数拆分
-b : 以大小拆分

 

eval 命令

• 命令字前加上eval时，shell会在执行命令之前扫描它两次。
• eval命 令将首先会先扫描命令行进行所有的置换，然后再执行该命令。
• 该命令适用于那些一次扫描无法实现其功能的变量。该命令对变量进行两次扫描。

正则表达式定义

正则表达式：通常用于判断语句中，用来检查某一字符串是否满足某一格式。

正则表达式是由普通字符与元字符组成

普通字符包括大小写字母、数字、标点符号及一些其他符号

元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符(即位于元字符前面的字符或表达式)在目标对象中的出现模式

基础正则表达式常见元字符（支持工具：egrep、awk、grep、sed）

元字符	说明
\	转义字符，用于取消特殊符号的含义，例: !、\n、$等
^	匹配字符串开始的位置，例: ^a、 ^the、 #、[a-z]
$	匹配字符串结束的位置，例: wordKaTeX parse error: Expected group after '^' at position 3: 、 ^̲匹配空行
.	匹配除\n之外的任意的一个字符，例: go.d、 g…d
*	匹配前面子表达式0次或者多次，例: goo*d、 go.*d
[list]	匹配list列表中的一个字符，例: go[ola]d， [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字
[^list]	匹配任意非list列表中的一个字符，例: [^0-9]、 [^A-Z0-9]、 [^a-z]匹配任意一位非小写字母
{n}	匹配前面的子表达式n次，例: go{2}d、 '[0-9]{2} '匹配两位数字
{n,}	匹配前而的子表达式不少于n次，例: go{2, }d、’[0-9]{2, }'匹配两位及两位以上数字
{n,m}	匹配前面的子表达式n到m次，例: go{2,3}d、 ’ [0-9]{2,3}'匹配两位到三位数字

注：egrep、 awk使用{n}、{n,}、{n, m}匹配时“{}”前不用加“\”

扩展正则表达式元字符（支持工具：egrep、awk）

元字符	说明
+	匹配前面子表达式1次以上，例: go+d, 将匹配至少一个o， 如god、 good、 goood等
?	匹配前面子表达式0次或者1次，例: go?d， 将匹配gd或god
()	将括号中的字符串作为h一个整体，例1: g(oo)+d," 将匹配oo整体1次以上，如good、gooood等
|	以或的方式匹配字条串，例: g (oo|la)d," 将匹配good或者glad

 

实例1

025开头的电话号码，区号和号码之间可以用"-",后面8位的前两位是8或5 

南京区号025
电话号码5或者8开头的8位数
格式：
区号  号码
区号-号码
区号号码
要求全号码格式匹配

实例2

用户名长度在6-18位，任意大小字母，数字，除了@符号和空格以外的任意符号，开头只能是_或者字母；子域名。[二级域]长度任意，符号只能包含"-_." ;.顶级域长度2-5，任意大小字母。

用户名@子域名. [二级域名].顶级域
 
zhangsan123@qq. com
li_ si@163. com
wang@wu@sina. com
zhao liu@126. com
qianqi@sina . com. cn
 
用户名@:长度要求在6-18位，任意大小写英文，任意数字，除了@符号和空格以外的其它
任意符号字符，开头只能是_或者字母
子域名.[二级域名]:长度任意，符号只能包含-_ .
.顶级域名: 长度在2-5，任意大小写英文

分析过程：

用户名@: 长度要求在6-18位，任意大小写英文，任意数字，除了@符号和空格以外的其它任意符号字符，开头只能是_ 或者字母^([a-zA-Z_ ][^@ ]{5,17})@
 
子域名.[二级域名]:长度任意，符号只能包含- _  .
([a-ZA-Z0-9_ \-\.]+)
 
. 顶级域名: 长度在2-5，任意大小写英文
\. ([a-zA-Z]{2,5})$