一、命令
1.sort
sort命令----以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序
语法格式
sort [选项] 参数
cat 参数 | sort 选项
常用选项
选项 | 作用 |
---|---|
-f | 忽悠大小写,会将小写字母都转换为大写字母来进行比较 |
-b | 忽略每行前面的空格 |
-n | 按照数字进行排序 |
-r | 反向排序 |
-u | 等同于uniq,表示相同的数据仅显示一行 |
-t | 知道字段分隔符,默认使用[tab]键分割 |
-k | 知道排序字段 |
-o <输出文件> | 将排序后的结果转存至指定文件 |
例如:
sort -n 1.txt
sort -t ":" -k 3 -n /etc/passwd
du -a | sort -nr -o 1.txt
2.uniq
uniq命令----用于报告或者忽略文件中连续的重复行,常与 sort命令结合使用
语法格式
uniq [选项] 参数
cat file | uniq 选项
常用选项
选项 | 作用 |
---|---|
-c | 进行计数,并删除文件中重复出现的行 |
-d | 仅显示连续的重复行 |
-u | 仅显示出现一次的行 |
例如
uniq 1.txt
sort -n 1.txt | uniq -c
3.tr
tr命令----常用来对来自标准输入的字符进行替换、压缩和删除
语法格式
tr [选项] [参数]
常用选项
选项 | 作用 |
---|---|
-c | 保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换 |
-d | 删除所有属于字符集1的字符 |
-s | 将重复出现的字符串压缩为一个字符串;用字符集2 替换 字符集1 |
-t | 字符集2 替换 字符集1.不加选项结果相同 |
参数:
字符集1:指定要转换或删除的原字符集。当执行转换操作时,必须使用参数"字符集2"指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2”
字符集2:指定要转换成的目标字符集。
例如
echo "zxc" | tr 'a-z' 'A-Z'
echo -e "abc\naafawf" | tr -c "ab\n" "0"
echo -e "abc\naafawf" | tr -c "ab" "0"
echo 'tsddwv aowd' | tr -d 'dw'
echo "thisssss is a text linnnnnnne" | tr -s 'sn '
删除空行
tr -s "\n" 1.txt
yum -y install dos2unix
dos2unix 1.txt
cat 1.txt | tr -d "\r"
4.cut
cut命令----显示行中的指定部分,删除文件中指定字段
语法格式
cut 选项 参数
cat 1.txt | cut选项
常用选项
选项 | 作用 |
---|---|
-f | 通过指定哪–个字段进行提取。cut命令使用"TAB"作为默认的字段分隔符。 |
-d | “TAB"是默认的分隔符,使用此选项可以更改为其他的分隔符。 |
- - complement | 此选项用于排除所指定的字段。 |
- -output-delimiter | 更改输出内容的分隔符。 |
例如
cut -d ':' -f 1 /etc/passwd
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7 以-分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2 排除第二个字段
cut -d ':' -f 1, 7 --output --delimiter=' ' /etc/passwd 输出分隔符使用空格分隔
i=123456789
echo $i | cut -b 1-3 起始位置从1开始
123
echo ${i:0:3} 起始位置从0开始
123
expr substr $i 1 3 起始位置从1开始
123
5.eval
扫描两次
二、正则表达式
正则表达式—通常用于判断语句中,用来检查某一字符串是否满足某一格式
正则表达式是由普通字符与元字符组成,
普通字符包括大小写字母、数字、标点符号及–些其他符号
元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式
Linux 文本处理工具
文本处理工具 | 基础正则表达式 | 扩展正则表达式 |
---|---|---|
vi编辑器 | 支持 | |
grep | 支持 | |
egrep | 支持 | 支持 |
sed | 支持 | |
awk | 支持 | 支持 |
基础正则表达式元字符
元字符 | 作用 |
---|---|
\ | 转义字符,用于取消特殊符号的含义,如:\!、\n、\;、$等 |
^ | 匹配字符串的开始位置,如:^world匹配以wrold开头的行 |
$ | 匹配字符串的开始位置,如:world$匹配以wrold结尾的行 |
. | 匹配除\n(换行)之外的任意一个字符 |
* | 匹配前面的子表达式0次或者多次 |
[list] | 匹配list列表中的一个字符,如:[0-9]匹配任一位数字 |
[^list] | 匹配不在list列表中的一个字符,如:[0-9]匹配任一位非数字字符 |
\{n\} | 匹配前面的子表达n次,如:[0-9]{2}匹配两位数字 |
\{n,\} | 匹配前面的子表达不少于n次 如:[0-9]{2,}匹配两位及两位以上的数字 |
\{n,m\} | 匹配前面的子表达n到m次 如:[a-z]{2,3}匹配两到三位的小写字母 |
扩展正则表达式
元字符 | 作用 |
---|---|
+ | 匹配前面的子表达1次以上,如:go+d,将匹配至少一个o |
? | 配前面的子表达式0次或者1次,如:go?d,将匹配gd或者god |
( ) | 将()中的字符串作为一个整体,如:(xyz)+,将匹配xyz整体1次以上 |
| | 以或的方式匹配字符串,如:good|great,将匹配good或者great |
总结
正则表达式表示任意长度(.*)。