文件处理命令与正则表达式

一、文本处理工具

1、sort命令

--以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序
比较原则是从首字符向后，依次按ASCII码值进行比较，最后将他们按升序输出。

语法格式

sort [选项] 参数
cat file | sort 选项

常用选项

• -n：按照数字进行排序
• -r：反向排序
• -u：等同于uniq，表示相同的数据仅显示一行
• -t：指定字段分隔符，默认使用[Tab]键分隔
• -k：指定排序字段
• -o <输出文件>：将排序后的结果转存至指定文件
• -f：忽略大小写，会将小写字母都转换为大写字母来进行比较
• -b：忽略每行前面的空格

sort -n testfile2
sort -t ':' -k 3 -n /etc/passwd
du -a | sort -nr -o du.txt

2、uniq命令

---用于报告或者忽略文件中连续的重复行，常与 sort 命令结合使用

语法格式

uniq [选项] 参数
cat file | uniq 选项

常用选项

• -c：进行计数，并删除文件中重复出现的行
• -d：仅显示连续的重复行
• -u：仅显示出现一次的行

uniq testfile3
sort -n testfile3 | uniq -c

3、tr命令

---常用来对来自标准输入的字符进行替换、压缩和删除

语法格式

tr [选项] [参数]

常用选项

• -c：保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
• -d：删除所有属于字符集1的字符
• -s：将重复出现的字符串压缩为一个字符；用字符集2 替换 字符集1
• -t：字符集2 替换 字符集1，不加选项同结果。    

参数

• 字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”；
• 字符集2：指定要转换成的目标字符集。

echo "abc" | tr 'a-z' 'A-Z'

echo -e "abc\ncabcdab" | tr -c "ab\n" "0"
echo -e "abc\ncabcdab" | tr -c "ab" "0"

echo 'hello world' | tr -d 'od'

echo "thissss is a test linnnnnnne." | tr -s 'sn'

删除空行：

echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
cat testfile5 | tr -s "\n"

把路径变量中的冒号":"，替换成换行符"\n"

echo $PATH | tr -s ":" "\n"
echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"

删除Windows文件“造成”的'^M'字符：

cat abc.txt | tr -s "\r" "\n" > new_file

cat abc.txt | tr -d "\r" > new_file

Linux中遇到换行符("\n")会进行回车+换行的操作，回车符反而只会作为控制字符("^M")显示，不发生回车的操作。而windows中要回车符+换行符("\r\n")才会回车+换行，缺少一个控制符或者顺序不对都不能正确的另起一行。
cat -A abc.txt
cat -v abc.txt
dos2unix abc.txt

数组排序

echo ${array[*]} | tr ' ' '\n' | sort -n > file

a=0
for i in $(cat file)
do
array[$a]=$i
let a++
#array+=($i)
done

4、cut命令

---显示行中的指定部分，删除文件中指定字段

语法格式

cut  参数
cat file | cut 选项

常用选项

• -f ：通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分隔符。
• -d ：“TAB”是默认的分隔符，使用此选项可以更改为其他的分隔符。
• --complement ：此选项用于排除所指定的字段。
• --output-delimiter ：更改输出内容的分隔符。

cut -d ':' -f 1 /etc/passwd
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7            #以-分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2        #排除第二个字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/passwd                #输出分隔符使用空格分隔

i=123456789
echo $i | cut -b 1-3        #起始位置从1开始
123

echo ${i:0:3}                #起始位置从0开始
expr substr $i 1 3            #起始位置从1开始

5、split命令

---linux下将一个大的文件拆分成若干小文件

语法格式

split 选项 参数 原始文件 拆分后文件名前缀

常用选项

• –l ：以行数拆分
• –b ：以大小拆分

split -l 50 /etc/passwd passwd        #以50行对文件进行拆分，最后一个文件的行数没有50行以实际行数进行分配

6、paste命令

---用于合并文件的列

paste [-s][-d <间隔字符>] 文件...

常用选项

• -d<间隔字符> ：用指定的间隔字符取代制表符
• -s ：把多行内容合并为一行进行显示

7、eval命令

命令字前加上eval时，shell会在执行命令之前扫描它两次。eval命令将首先会先扫描命令行进行所有的置换，然后再执行该命令。该命令适用于那些一次扫描无法实现其功能的变量。该命令对变量进行两次扫描。
示例1：

echo "hello world" > file
myfile="cat file"
echo $myfile
eval $myfile

示例2：

vim test.sh
#!/bin/bash
eval echo \$$#

./test.sh 1 2 3 4

示例3：

a=100
b=a
eval echo \$$b
eval $b=50
echo $a

二、正则表达式

---通常用于判断语句中，用来检查某一字符串是否满足某一格式

1、正则表达式介绍

正则表达式是由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号
元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符或表达式）在目标对象中的出现模式

2、基础正则表达式常见元字符：

（支持的工具：grep、egrep、sed、awk）

元字符	含义	举例
\	转义字符，用于取消特殊符号的含义	例：\!、\n、\$等
^	匹配字符串开始的位置	例：^a、^the、^#、^[a-z]
$	匹配字符串结束的位置	例：word$、^$匹配空行
.	匹配除\n之外的任意的一个字符	例：go.d、g..d
*	匹配前面子表达式0次或者多次	例：goo*d、go.*d
[list]	匹配list列表中的一个字符	例：go[ola]d，[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字
[^list]	匹配任意非list列表中的一个字符	例：[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母
\{n\}	匹配前面的子表达式n次	例：go\{2\}d、'[0-9]\{2\}'匹配两位数字
\{n,\}	匹配前面的子表达式不少于n次	例：go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字
\{n,m\}	匹配前面的子表达式n到m次	例：go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字 注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”
\w	匹配包括下划线的任何单词字符	\W ：匹配任何非单词字符。等价于“[^A-Za-z0-9_]”。
\d	匹配一个数字字符	\D ：匹配一个非数字字符。等价于 [^0-9]。        grep -P
\s	空白符	\S ：非空白符

3、扩展正则表达式元字符：

（支持的工具：egrep、awk）grep -E   sed -r

元字符	含义	举例
+	匹配前面子表达式1次以上	例：go+d，将匹配至少一个o，如god、good、goood等
?	匹配前面子表达式0次或者1次	例：go?d，将匹配gd或god
()	将括号中的字符串作为一个整体	例：g(oo)+d，将匹配oo整体1次以上，如good、gooood等
|	以或的方式匹配字符串	例：g(oo|la)d，将匹配good或者glad

正则表达式匹配E-mail地址
用户名@ ：^([a-zA-Z0-9_\-\.\+]+)@
子域名 ：([a-zA-Z0-9_\-\.]+)
.顶级域名(字符串长度一般在2到5) ：\.([a-zA-Z]{2,5})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt