第五次shell学习

5.1、处理海量数据之grep命令

grep应用场景：通常对数据进行 行的提取

语法：grep [选项]...[内容]...[file]

-v #对内容进行取反提取

-n #对提取的内容显示行号

-w #精确匹配

-i #忽略大小写

^ #匹配开头行首

-E #正则匹配

5.2、处理海量数据之cut命令

cut应用场景：通常对数据进行列的提取

语法：cut [选项]...[file]

-d #指定分割符

-f #指定截取区域

-c #以字符为单位进行分割

注意：不加-d选项，默认为制表符，不是空格/bin/bash #代表可以登录的用户/sbin/nologin #代表不可以登录的用户

-d与-f

eg:

以':'为分隔符，截取出/etc/passwd的第一列跟第三列

cut -d ':' -f 1,3 /etc/passwd

eg:

以':'为分隔符，截取出/etc/passwd的第一列到第三列

cut -d ':' -f 1-3 /etc/passwd

eg:

以':'为分隔符，截取出/etc/passwd的第二列到最后一列

cut -d ':' -f 2- /etc/passwd

-c

eg:

截取/etc/passwd文件从第二个字符到第九个字符

cut -c 2-9 /etc/passwd

eg:比如领导想叫你截取linux上面所有可登陆普通用户

grep '/bin/bash' /etc/passwd | cut -d ':' -f 1 | grep -v root

5.3、处理海量数据之awk命令

awk的简介：其实一门编程语言，支持条件判断，数组，循环等功能，与grep，sed被称为linux三剑客

之所以叫AWK是因为取其三位创始人 Alfred Aho，Peter Weinberger, 和 Brian Kernighan 的Family Name的 首字符

awk的应用场景：通常对数据进行列的提取 语法：

awk '条件 {执行动作}'文件名

awk '条件1 {执行动作} 条件2 {执行动作} ...' 文件名

或awk [选项] '条件1 {执行动作} 条件2 {执行动作} ...' 文件名

特殊要点与举例说明:

printf #格式化输出，不会自动换行。

（%ns：字符串型，n代表有多少个字符； %ni：整型，n代表输出几个数字；%.nf：浮点型，n代表的是小数点后有多少个 小数）

print #打印出内容，默认会自动换行

\t #制表符 \n #换行符

eg：printf '%s\t%s\t%s\t%s\t%s\t%s\n' 1 2 3 4 5 6

eg：df -h |grep /dev/vda1 | awk '{printf "/dev/vda1的使用率是："} {print $5}'

小数：echo "scale=2; 0.13 + 0.1" | bc | awk '{printf "%.2f\n", $0}'

$1 #代表第一列$2 #代表第二列$0 #代表一整行

eg： df -h | grep /dev/vda1 | awk '{print $5}'

-F #指定分割符

eg：cat /etc/passwd | awk -F":" '{print $1}'

BEGIN #在读取所有行内容前就开始执行，常常被用于修改内置变量的值FS #BEGIN时定义分割符

eg：cat /etc/passwd | awk 'BEGIN {FS=":"} {print $1}'

END #结束的时候 执行NR #行号

eg：df -h | awk 'NR==2 {print $5}'

awk '(NR>=20 && NR<=30) {print $1}' /etc/passwd

5.4、处理海量数据之sed命令

sed的应用场景：主要对数据进行处理（选取，新增，替换，删除，搜索）

sed语法：sed [选项][动作] 文件名

常见的选项与参数：

-n #把匹配到的行输出打印到屏幕p #以行为单位进行查询，通常与-n一起使用eg：df -h | sed -n '2p'

d #删除

eg: sed '2d' df.txt

a #在行的下面插入新的内容

eg: sed '2a 1234567890' df.txt

i #在行的上面插入新的内容

eg: sed '2i 1234567890' df.txt

c #替换

eg: sed '2c 1234567890' df.txt

s/要被取代的内容/新的字符串/g #指定内容进行替换

eg: sed 's/0%/100%/g' df.txt

-i #对源文件进行修改(高危操作，慎用，用之前需要备份源文件) 搜索：在文件中搜索内容

eg：cat -n df.txt | sed -n '/100%/p'

-e #表示可以执行多条动作

eg：cat -n df.txt | sed -n -e 's/100%/100%-----100%/g' -e '/100%-----100%/p'