shell 的几个数据处理命令 管道命令

tr:

tr -s 'c' 'c1' 

把文件中的一个或者多个字符’c’ 替换成字符 ‘c1’
eg:

cat a.txt | tr -s ' ' '\n' 

把文本a.txt中所有的一个或多个空格替换成换行符，也就是说遇到一个或者多个连续的空格那么就换行。

sed 's/exp1/exp2/g'

把所有exp1形式的字符或字符串替换为exp2形式。
uniq 对文本进行去重处理
eg:

cat a. txt | uniq -c 

对a.txt 进行行去重处理，也就是如果相邻两行或者多行是一样那么只显示一行内容。
但是对于不是相邻的行，如果中间的行不一样，那么不会去重。
例如：
a.txt->内容如下

aa
bb
bb
cc
aa

但是使用uniq 命令之后会变成

aa
bb
cc
aa

我们可以使用sort 命令之后在使用uniq命令

cat a.txt | sort | uniq

结果

aa
bb
cc

这个是与sort -u 命令的区别。
如果使用

cat a.txt | sort -u 

命令结果也是

aa
bb
cc

uniq -c

-c 是对内容进行计数。计数的方式也是统计相邻相同一行或者多行的个数

cat a.txt | uniq -c 

sort -k num

表示按着没一行的第num行进行排序
比如按着第一行排序

cat a.txt | sort -k 1

显示的结果也是按着这一行的升序排序的
可以使用-r 参数进行降序排序

cat a.txt | sort | uniq -c | sort -k 1

awk 命令

awk '{print $1,$2,$3}'

打印每一行的1,2,3列。