一、sort命令
以行为单位对文件内容进行排序,也可以根据不同的数据类型来排序
- 比较原则
从首字符向后,依次按ASCII码值进行比较,最后将他们按升序输出
sort [选项] 参数
cat file | sort 选项
- 常用选项
-n | 按照数字进行排序 |
-r | 反向排序 |
-u | 等同于uniq,表示相同的数据仅显示一行 |
-t | 指定字段分隔符,默认使用[Tab]键分隔 |
-k | 指定排序字段 |
-o <输出文件> | 将排序后的结果转存至指定文件 |
-f | 忽略大小写,会将小写字母都转换为大写字母来进行比较 |
-b | 忽略每行前面的空格 |
- 案例:查看目录中最大文件
du -a 目录 | sort -nr
二、uniq命令
用于报告或者忽略文件中连续的重复行,常与 sort 命令结合使用
uniq [选项] 参数
cat file | uniq 选项
- 常用选项
-c | 进行计数,并删除文件中重复出现的行 |
-d | 仅显示连续的重复行 |
-u | 仅显示出现一次的行 |
- 案例禁用爆破用户
#!/bin/bash
#先清空黑名单用户
echo > /etc/hosts.deny
#获取分析日志并排序统计的结果
SSHIP=$(cat /var/log/secure | grep "Failed password" | awk '{print $11}' | sort -n | uniq -c)
#根据换行符进行循环
IFS=$'\n'
for i in $SSHIP
do
#登录失败的次数
num=$(echo $i |awk '{print $1}')
#登录失败的IP地址
IP=$(echo $i |awk '{print $2}')
#失败次数大于5
if [ $num -gl 5 ]
#输出爆破用户到禁用名单
then echo "sshd:$IP" >> /etc/hosts.deny
fi
done
#日志进行备份并清空
\cp -f /var/log/secure /opt/secure
echo > /var/log/secure
后续可用
crontab -e
三、tr命令
常用来对来自标准输入的字符进行替换、压缩和删除
tr [选项] [参数]
#参数:
#字符集1:指定要转换或删除的原字符集。当执行转换操作时,必须使用参数“字符集2”指定转换的目标字符集,但执行删除操作时,不需要参数“字符集2”;
#字符集2:指定要转换成的目标字符集。
- 常用选项
-c | 保留字符集1的字符,其他的字符(包括换行符\n)用字符集2替换 |
-d | 删除所有属于字符集1的字符 |
-s | 将重复出现的字符串压缩为一个字符;用字符集2 替换 字符集1 |
-t | 字符集2 替换 字符集1,不加选项同结果 |
tr -s "\n" #删除空行
tr -s ":" "\n" #把路径变量中的冒号":",替换成换行符"\n"
#删除Windows文件中回车造成的'^M'字符:
cat 原文件名 | tr -s "\r" "\n" > 新文件名
或
cat 原文件名 | tr -d "\r" > 新文件名
linux内部软件dos2unix同样可以实现
四、数组排序
echo ${数组名{@]} | tr ' ' '\n' | sort -rn | tr '\n' ' '
五、cut命令
显示行中的指定部分,删除文件中指定字段
cat 文件名 | cut 选项
- 常用选项
-f | 通过指定哪一个字段进行提取。cut命令使用“TAB”作为默认的字段分隔符 |
-d | “TAB”是默认的分隔符,使用此选项可以更改为其他的分隔符 |
--complement | 此选项用于排除所指定的字段 |
--output-delimiter | 更改输出内容的分隔符 |
#字符串分片
echo ${变量:下标:长度} #下标起始从0开始
echo $变量 | cut -b 起始下标-终止下标 #下标起始从1开始
expr substr $变量 起始下标 长度 #下标起始从1开始
六、split命令
linux下将一个大的文件拆分成若干小文件
split 选项 参数 原始文件 拆分后文件名前缀
- 常用选项
–l | 以行数拆分 |
–b | 以大小拆分 |
-d | 输出的目标文件后缀用数字代替 |
#将一个10G文件分割为10个1G文件
split -b 1G -d 原文件 目标文件名前缀
#将一个100行文件分割为10个10行的文件
split -l 10 -d 原文件 目标文件名前缀
七、paste命令
用于合并文件的列
paste [-s][-d <间隔字符>] 文件...
- 常用选项
-d<间隔字符> | 用指定的间隔字符取代制表符 |
-s | 把多行内容合并为一行进行显示 |
#合并文件的行
cat 文件1 文件2 ... > 新文件
#合并文件的列
paste -d '分隔符' 文件1 文件2 ... > 新文件
八、eval命令
命令字前加上eval时,shell会在执行命令之前扫描它两次。eval命令将首先会先扫描命令行进行所有的置换,然后再执行该命令。该命令适用于那些一次扫描无法实现其功能的变量。该命令对变量进行两次扫描
九、正则表达式
通常用于判断语句中,用来检查某一字符串是否满足某一格式
由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号;
元字符是指在正则表达式中具有特殊意义的专用字符,可以用来规定其前导字符(即位于元字符前面的字符或表达式)在目标对象中的出现模式
- 基础正则表达式常见元字符(支持的工具:grep、egrep、sed、awk)
\ | 转义字符,用于取消特殊符号的含义 例:\!、\n、\$等 |
^ | 匹配字符串开始的位置 例:^a、^the、^#、^[a-z] |
$ | 匹配字符串结束的位置 例:word$、^$匹配空行 |
. | 匹配除\n之外的任意的一个字符 例:go.d、g..d |
* | 匹配前面子表达式0次或者多次 例:goo*d、go.*d |
[list] | 匹配list列表中的一个字符 例:go[ola]d,[abc]、[a-z]、[a-z0-9]、[0-9]匹配任意一位数字 |
[^list] | 匹配任意非list列表中的一个字符 例:[^0-9]、[^A-Z0-9]、[^a-z]匹配任意一位非小写字母 |
\{n\} | 匹配前面的子表达式n次 例:go\{2\}d、'[0-9]\{2\}'匹配两位数字 |
\{n,\} | 匹配前面的子表达式不少于n次 例:go\{2,\}d、'[0-9]\{2,\}'匹配两位及两位以上数字 |
\{n,m\} | 匹配前面的子表达式n到m次 例:go\{2,3\}d、'[0-9]\{2,3\}'匹配两位到三位数字 |
注:egrep、awk、grep -E、sed -r使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\” | |
\w | 匹配包括下划线的任何单词字符 \W :匹配任何非单词字符。等价于“[^A-Za-z0-9_]” |
\d | 匹配一个数字字符 \D :匹配一个非数字字符。等价于 [^0-9] |
\s | 空白符 \S :非空白符 |
- 扩展正则表达式元字符(支持的工具:egrep、awk)
+ | 匹配前面子表达式1次以上 例:go+d,将匹配至少一个o,如god、good、goood等 |
? | 匹配前面子表达式0次或者1次 例:go?d,将匹配gd或god |
() | 将括号中的字符串作为一个整体 例:g(oo)+d,将匹配oo整体1次以上,如good、gooood等 |
| | 以或的方式匹配字符串 例:g(oo|la)d,将匹配good或者glad |
- 案例1
02588888888
025-5555555555
025 12345678
025 54321678
025ABC88888
025-85432109
028-85643210
0251-52765421
#需求:区号025开头,号码与区号间可以是空格、-、没有,号码必须是5或者8开头的八位数
cat 文件名 | egrep "^(025)[ -]?[58][0-9]{7}$"
- 案例2
电子邮箱
用户名@子域名[.二级域名].顶级域
zhangsanl23@qq.com
li_si@163.com
wang@wudsina.com
zhao liu@126.com
qiangqi@sina.com.cn
#需求:用户名@:长度要求在6-18位,任意大小写英文,任意数字,除了@符号和空格以外的其它任意符号字符,开头只能是_或者字母
^[a-zA-Z_][^@ ]{5,17}@
#需求:子域名[.二级域名]:长度任意,符号只能包含-_.
([a-zA-Z0-9_\-\.]+)
#需求:顶级域名:长度在2-5,任意大小写英文
(\.[a-zA-Z]{2,5})$
#完整匹配
[a-zA-Z_][^@ ]{5,17}@([a-zA-Z0-9_\-\.]+)(\.[a-zA-Z]{2,5})$
cat 文件名 | egrep "[a-zA-Z_][^@ ]{5,17}@([a-zA-Z0-9_\-\.]+)(\.[a-zA-Z]{2,5})$"