工具（cut、sed、awk、sort）

cut

cut的工作就是“剪”，具体的说就是在文件中负责剪切数据用的。cut 命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段输出。

1. 基本用法
   cut [选项参数] filename
   说明：默认分隔符是制表符
2. 选项参数说明

选项参数	功能
-f 列号	提取第几列
-d 分隔符	按照指定分隔符分割列
-c	指定具体的字符

3.案例实操
（0）数据准备

[root@hadoop100 learnshellutil]# vim testcut.txt
[root@hadoop100 learnshellutil]# cat testcut.txt 
1 2 3 4
1 2 3 4
1 2 3 4
11 22 33 44

（1）切割testcut.txt第一列

[root@hadoop100 learnshellutil]# cut -d " " -f 1 testcut.txt 
1
1
1
11

（2）切割testcut.txt第二、三列

[root@hadoop100 learnshellutil]# cut -d " " -f 2,3 testcut.txt 
2 3
2 3
2 3
22 33

（3）在testcut.txt文件中切割出22

[root@hadoop100 learnshellutil]# cat testcut.txt | grep 22 | cut -d " " -f 2
22

（4）选取系统PATH变量值，第2个“：”开始后的所有路径：

[root@hadoop100 learnshellutil]# echo $PATH
/usr/lib64/qt-3.3/bin:/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin

[root@hadoop100 learnshellutil]# echo $PATH | cut -d : -f 2-
/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin

（5）切割ifconfig 后打印的IP地址

[root@hadoop100 learnshell]# ifconfig | grep Bcast | cut -d : -f 2 | cut -d " " -f 1
192.168.1.100

sed

sed是一种流编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区中，称为“模式空间”，接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。

1. 基本用法
   sed [选项参数] ‘command’ filename
2. 选项参数说明

选项参数	功能
-e	直接在指令列模式上进行sed的动作编辑。
-i	直接编辑文件

3. 命令功能描述

命令	功能描述
a	新增，a的后面可以接字串，在下一行出现
d	删除
s	查找并替换

先指定范围后指定命令，可以使用‘/正则表达式/’指定范围

4. 案例实操
   （0）数据准备

[root@hadoop100 learnshellutil]# cat testsed.txt 
1 2 3 4
1 2 3 4
1 2 3 4
11 22 33 44

（1）将“one two”这个单词插入到testsed.txt第二行下，打印。

[root@hadoop100 learnshellutil]# sed '2a one two' testsed.txt 
1 2 3 4
1 2 3 4
one two
1 2 3 4
11 22 33 44
[root@hadoop100 learnshellutil]# cat testsed.txt 
1 2 3 4
1 2 3 4
1 2 3 4
11 22 33 44

注意：文件并没有改变，当选项是-i的时候才会改变文件

（2）删除testsed.txt文件所有包含11的行

[root@hadoop100 learnshellutil]# sed '/11/d' testsed.txt 
1 2 3 4
1 2 3 4
1 2 3 4

（3）将sed.txt文件中11替换为55

[root@hadoop100 learnshellutil]# sed 's/11/55/g' testsed.txt 
1 2 3 4
1 2 3 4
1 2 3 4
55 22 33 44

注意：‘g’表示global，全部替换
（4）将sed.txt文件中的第二行删除并将1替换为5

[root@hadoop100 learnshellutil]# sed -e '2d' -e 's/1/5/g' testsed.txt 
5 2 3 4
5 2 3 4
55 22 33 44

awk

一个强大的文本分析工具，把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行分析处理。

1. 基本用法
   awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename
   pattern：表示AWK在数据中查找的内容，就是匹配模式
   action：在找到匹配内容时所执行的一系列命令
2. 选项参数说明

选项参数	功能
-F	指定输入文件折分隔符
-v	赋值一个用户定义变量

3. 案例实操
   （0）数据准备

[root@hadoop100 learnshellutil]# cp /etc/passwd ./testawk.txt

（1）搜索testawk.txt文件以root关键字开头的所有行，并输出该行的第7列。

[root@hadoop100 learnshellutil]# awk -F : '/^root/{print $7}' testawk.txt 
root /bin/bash

（2）搜索testawk.txt文件以root关键字开头的所有行，并输出该行的第1列和第7列，中间以“，”号分割。

[root@hadoop100 learnshellutil]# awk -F : '/^root/{print $1" "$7}' testawk.txt 
root /bin/bash

注意：只有匹配了pattern的行才会执行action
（3）只显示/etc/passwd的第一列和第七列，以逗号分割，且在所有行前面添加列名user，shell在最后一行添加"XXX"。

[root@hadoop100 learnshellutil]# awk -F : 'BEGIN{print "user,shell"} {print $1" "$7} END{print "XXX"}' testawk.txt 
user,shell
root /bin/bash
bin /sbin/nologin
。。。
sshd /sbin/nologin
tcpdump /sbin/nologin
why /bin/bash
XXX

注意：BEGIN 在所有数据读取行之前执行；END 在所有数据执行之后执行。
（4）将passwd文件中的用户id增加数值1并输出

[root@hadoop100 learnshellutil]# awk -v i=1 -F: '{print$3+i}' testawk.txt 
1
2
...
498
75
73
501

4. awk的内置变量

变量	说明
FILENAME	文件名
NR	已读的记录数
NF	浏览记录的域的个数（切割后，列的个数）

5. 案例实操
   （1）统计passwd文件名，每行的行号，每行的列数

[root@hadoop100 learnshellutil]# awk -F: '{print "filename:" FILENAME "linenumber:" NR ",columns:" NF}' testawk.txt 
filename:testawk.txtlinenumber:1,columns:7
filename:testawk.txtlinenumber:2,columns:7
filename:testawk.txtlinenumber:3,columns:7
filename:testawk.txtlinenumber:4,columns:7

（2）切割IP

[root@hadoop100 learnshellutil]# ifconfig eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}'
192.168.1.100

（3）查询sed.txt中空行所在的行号

[root@hadoop100 learnshellutil]# cat testsed.txt 
1 2 3 4
1 2 3 4
1 2 3 4
11 22 33 44


[root@hadoop100 learnshellutil]# awk '/^$/{print NR}' testsed.txt 
5
6

sort

sort命令是在Linux里非常有用，它将文件进行排序，并将排序结果标准输出。

1. 基本语法
   sort(选项)(参数)

选项	说明
-n	依照数值的大小排序
-r	以相反的顺序来排序
-t	设置排序时所用的分隔字符
-k	指定需要排序的列

参数：指定待排序的文件列表
7. 案例实操
（0）数据准备

[root@hadoop100 learnshellutil]# vim testsort.txt
[root@hadoop100 learnshellutil]# cat testsort.txt 
1:2:3
6:58:99
45:24:72

（1）按照“：”分割后的第三列倒序排序。

[root@hadoop100 learnshellutil]# sort -t: -nrk 3 testsort.txt 
6:58:99
45:24:72
1:2:3

引用自尚硅谷课件，命令博主示例手工制作