目 录
一.sort命令
以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序。
1.语法格式
格式:
sort [选项] 参数 #参数为文件
或
cat file | sort 选项
2.常用选项
选项 | 说明 |
---|---|
-f | 忽略大小写,会将小写字母都转换为大写字母来进行比较 |
-b | 忽略每行前面的空格 |
-n | 按照数字进行排序 |
-r | 反向排序 |
-u | 等同于uniq,表示相同的数据仅显示一行 |
-t | 指定字段分隔符,默认使用[Tab]键分隔 |
-k | 指定排序字段 |
-o<输出文件> | 将排序后的结果转存至指定文件 |
二.uniq命令
用于报告或者忽略文件中连续的重复行,常与 sort 命令结合使用。
1.语法格式
格式:
uniq [选项] 参数
或
cat file | uniq 选项
2.常用选项
选项 | 说明 |
---|---|
-c | 进行计数,并删除文件中重复出现的行 |
-d | 仅显示连续的重复行 |
-u | 仅显示出现一次的行 |
三.tr命令
常用来对来自标准输入的字符进行替换、压缩和删除。
1.语法格式
格式:
tr [选项] [参数]
2.常用选项
选项 | 说明 |
---|---|
-c | 保留字符集1的字符,其他的字符用(包括换行符\n)字符集2替换 |
-d | 删除所有属于字符集1的字符 |
-s | 将重复出现的字符串压缩为一个字符串;用字符集2 替换 字符集1 |
-t | 字符集2 替换 字符集1,不加选项同结果 |
常用参数
参数 | 说明 |
---|---|
字符集1 | 指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时,不需要参数“字符集2” |
字符集2 | 指定要转换成的目标字符集 |
3.示例
(1)将输出的字符串小写替换为大写
echo "abc" | tr 'a-z' 'A-Z'
(2)输出字符串,除了“ab和换行符”,都替换为“0”
echo -e "abc\ncabcdab" | tr -c "ab\n" "0"
或
echo -e "abc\ncabcdab" | tr -c "ab" "0" #不换行输出
(3)删除匹配字符‘od’
echo 'hello world' | tr -d 'od'
(4)去重
echo "i am aaaaaa gooddddddd boy" | tr -s "ad"
(5)删除空行
echo -e "aa\n\n\n\n\n\nbb" | tr -s "\n"
或
cat 文件名 | tr -s "\n"
或
cat 文件名 | grep -v “^$”
(6)把路径变量中的冒号":",替换成换行符"\n"
echo $PATH | tr -s ":" "\n"
(7)删除Windows文件“造成”的’^M’字符
cat file | tr -s "\r" "\n" > 新文件
或
cat file | tr -d "\r" > 新文件
Linux中遇到换行符("\n")会进行回车+换行的操作,回车符反而只会作为控制字符("^M")显示,不发生回车的操作。
而windows中要回车符+换行符("\r\n")才会回车+换行,缺少一个控制符或者顺序不对都不能正确的另起一行。
补充:
使用 dos2unix 工具可以直接转换
(8)数组排序
将数组arr=(10 50 40 30 20)进行排序
四.cut命令
显示行中的指定部分,删除文件中指定字段
1.语法格式
格式:
cut 选项 参数
或
cat file | cut 选项
2.常用选项
选项 | 说明 |
---|---|
-f | 通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分割符 |
-d | “TAB”是默认的分隔符,使用此选项可更改为其他的分隔符 |
- -complement | 用于排除所指定的字段 |
- -output-delimiter | 更改输出内容的分隔符 |
3.示例
3种不同的截取方法
注:cut 和 expr substr 起始位置都是从1开始
五、正则表达式
通常用于判断语句中,用来检查某一字符串是否满足某一格式
1、正则表达式的组成
- 正则表达式是由普通字符与元字符组成
- 普通字符包括大小写字母,数字,标点符号及一些其他符号
- 元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符)在目标对象中的出现模式
2、基础正则表达式
支持工具grep,egrep,sed,awk
基础正则表达式常见元字符:
\ :转义字符,用于取消特殊符号的含义,例:\!、\n、\$等
^ :匹配字符串开始的位置,例:^a、^the、^#、^[a-z]
$ :匹配字符串结束的位置,例:word$、^$匹配空行
. :匹配除\n之外的任意的一个字符,例:go.d、g..d
* :匹配前面子表达式0次或者多次,例:goo*d、go.*d
[list] :匹配list列表中的一个字符,例:go[ola]d,[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字
[^list] :匹配任意非list列表中的一个字符,例:[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母
\{n\} :匹配前面的子表达式n次,例:go\{2\}d、'[0-9]\{2\}'匹配两位数字
\{n,\} :匹配前面的子表达式不少于n次,例:go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字
\{n,m\} :匹配前面的子表达式n到m次,例:go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字
注:egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”
3、扩展正则表达式
支持的工具:egrep、awk 或 grep -E 和 sed -r
扩展正则表达式元字符:
+ :匹配前面子表达式1次以上,例:go+d,将匹配至少一个o,如god、good、goood等
? :匹配前面子表达式0次或者1次,例:go?d,将匹配gd或god
() :将括号中的字符串作为一个整体,例1:g(oo)+d,将匹配oo整体1次以上,如good、gooood等
| :以或的方式匹配字条串,例:g(oo|la)d,将匹配good或者glad
六、正则表达式应用
1、查找电话号码
#025开头 号码为8位数,号码一般都是以5或8开头
#中间可以没有空格,区号和号码之间可以有空格,-,区号可以用()括起来
02588888888
025-5555555555
025-12345678
(025) 88551234
025 54321678
025ABC88888
01012345678
0125 12345678
egrep "^(\(?025\)?)[ -]?[58][0-9]{7}$" testfile1
或
grep - E "^(\(?025\)?)[ -]?[58][0-9]{7}$" testfile1
2.匹配邮箱
#xxxxxx@xxx.com(顶级域)
#xxxxxx@xxx.com.cn(二级域.顶级域)
#用户名可以是大小写英文字母,数字,中间可携带. - _ # !这些符号,写长度不小于6位数
123_zhangsan@163.com
18512341565@163.com
lili_123@qq.com
aaaaa-aa@nihao.com
zhao#si@163.com
kk!kk12@sina.com
lplp.lp@qq.com
egrep '^([a-zA-Z0-9\-\.\#\!\_]{6,})@([a-zA-Z0-9\-\.\_]+)\.([a-zA-Z]{2,5})$' yx.txt