该系列是基于牛客Shell题库,针对具体题目进行查漏补缺,学习相应的命令。
刷题链接:牛客题霸-Shell篇。
该系列文章都放到专栏下,专栏链接为:《专栏:Linux》。欢迎关注专栏~
本文知识预告:
- 首先截取子串的函数
substr()
和按列提取文件内容的cut
命令; - 然后总结了八种字符串截取的方法;
- 最后给出了四种方法,基本还是
awk
命令的应用。
题目:SHELL12 打印每一行出现的数字个数
写一个bash脚本,统计一个文本文件nowcoder.txt中每一行出现的15数字的个数,并且计算一下整个文档中一共出现了几个15数字的总数。假设 nowcoder.txt 内容如下:
a12b8
10ccc
2521abc
你的脚本应当输出:
line1 number: 2
line2 number: 1
line3 number: 4
line4 number: 0
sum is 7
说明:不要担心你输出的空格以及换行的问题。
相关命令学习
awk
:文本和数据进行处理的编程语言
awk
命令来自于三位创始人”Alfred Aho,Peter Weinberger, Brian Kernighan “的姓氏缩写,其功能是用于对文本和数据进行处理的编程语言。使用awk
命令可以让用户自定义函数或正则表达式对文本内容进行高效管理,与sed
、grep
并称为Linux系统中的文本三剑客。
语法格式:awk 参数 文件
常用参数:
参数 | 功能 |
---|---|
-F | 指定输入时用到的字段分隔符 |
-v | 自定义变量 |
-f | 从脚本中读取awk 命令 |
-m | 对val 值设置内在限制 |
常用的awk
内置变量:
awk
语法由一系列条件和动作组成,在花括号内可以有多个动作,多个动作之间用分号分隔,在多个条件和动作之间可以有若干空格,也可以没有。
变量名称 | 说明 |
---|---|
FILENAME | 当前输入文档的文件名 |
FNR | 当前输入文档的当前行号,尤其当多个输入文档时有用 |
FS | 设置字段分隔符,默认为空格或制表符 |
NF | 当前记录(行)的字段(列)个数 |
NR | 输入数据流的当前记录数(行号) |
OFS | 输出字段分隔符,默认为空格 |
ORS | 输出记录分隔符,默认为换行符 |
RS | 输入记录分隔符,默认为换行符 |
awk
是一种处理文本文件的编程语言,文件的每行数据都被称为记录,默认以空格或制表符为分隔符,每条记录被分成若干字段(列),awk
每次从文件中读取一条记录。
例子:
- 仅显示指定文件中第1、2列的内容(默认以空格为间隔符):
lucky@DESKTOP-VQ8KID4:~/shell$ awk '{print $1,$2}' nowcoder.txt
#include <iostream>
using namespace
int main()
{
int a
int b
cout <<
return 0;
}
- 以冒号为间隔符,仅显示指定文件中第1列的内容:
lucky@DESKTOP-VQ8KID4:~/shell$ awk -F : '{print $1,$2}' /etc/passwd
root x
daemon x
bin x
...
tcpdump x
sshd x
landscape x
pollinate x
lucky x
/etc/passwd
文件中的内容由:
分隔开。
- 以冒号为间隔符,显示系统中所有UID号码大于500的用户信息(第3列):
lucky@DESKTOP-VQ8KID4:~/shell$ awk -F : '$3>=500' /etc/passwd
nobody:x:65534:65534:nobody:/nonexistent:/usr/sbin/nologin
lucky:x:1000:1000:,,,:/home/lucky:/bin/bash
- 仅显示指定文件中含有指定关键词
main
的内容:
lucky@DESKTOP-VQ8KID4:~/shell$ awk '/main/{print}' nowcoder.txt
int main()
- 以冒号为间隔符,仅显示指定文件中最后一个字段的内容:
lucky@DESKTOP-VQ8KID4:~/shell$ awk -F : '{print $NF}' /etc/passwd
/bin/bash
/usr/sbin/nologin
/usr/sbin/nologin
...
/usr/sbin/nologin
/bin/false
/bin/bash
- 输出行号,
NR
将所有文件的数据视为一个数据流,而FNR
则是将多个文件的数据视为独立的若干个数据流,遇到新文件时行号从1开始重新递增。
lucky@DESKTOP-VQ8KID4:~$ awk '{print NR}' first.txt three.sh
1
2
3
lucky@DESKTOP-VQ8KID4:~$ awk '{print FNR}' first.txt three.sh
1
1
2
substr()
:截取子串
第一种方法:substr()
配合awk
命令
其语法格式:(开始索引以0或1开始)
substr(源字符串, 开始索引, 长度)
例子:
lucky@DESKTOP-VQ8KID4:~$ cat nowcoder.txt
a12b8
10ccc
2521abc
lucky@DESKTOP-VQ8KID4:~$ awk -F" " '{print substr($1,2,3)}' nowcoder.txt
12b
0cc
521
正如上面提到的,开始索引以1开始和从0开始都一样:
lucky@DESKTOP-VQ8KID4:~$ awk -F" " '{print substr($1,0,3)}' nowcoder.txt
a12
10c
252
lucky@DESKTOP-VQ8KID4:~$ awk -F" " '{print substr($1,1,3)}' nowcoder.txt
a12
10c
252
第二种方法:substr()
配合expr
命令
其语法格式为:(开始索引以1开始)
expr substr 字符串 开始索引 长度
例子:
lucky@DESKTOP-VQ8KID4:~$ expr substr "sdfsdf" 2 2
df
第三种方法:可以根据特定字符偏移和长度,使用另一种形式的变量扩展,来选择特定子字符串。【开始索引为0】
其语法格式为:
- 截取变量从
n1
到最后的字符串,其语法格式为:(只提供一个参数的话,默认截取到最后)
echo ${str:n1}
- 截取变量从
n1
到n2
之间的字符串。
echo ${str:n1:n2-n1}
例子:
- 从第三个字符开始截取:
lucky@DESKTOP-VQ8KID4:~$ str="dsjgopj"
lucky@DESKTOP-VQ8KID4:~$ echo ${str:2}
jgopj
- 截取第三个字符到第五个字符:
lucky@DESKTOP-VQ8KID4:~$ str="dsjgopj"
lucky@DESKTOP-VQ8KID4:~$ echo ${str:2:2}
jg
cut
:按列提取文件内容
cut
命令的功能是用于按列提取文件内容。常用的grep
命令仅能对关键词进行按行提取过滤,而cut
命令则是可以根据指定的关键词信息,针对特定的列内容进行过滤。
语法格式:cut [参数] 文件
常用参数:
-c | 以字符为单位进行分割 |
---|---|
-b | 以字节为单位进行分割 |
-d | 自定义分隔符,默认为制表符”TAB” |
-f | 显示指定字段的内容 |
-n | 取消分割多字节字符 |
--complement | 补足被选择的字节、字符或字段 |
--out-delimiter | 指定输出内容是的字段分割符 |
参考实例
- 以冒号为间隔符,仅提取指定文件中第一列的内容:
lucky@DESKTOP-VQ8KID4:~$ cut -d : -f 1 /etc/passwd
root
daemon
bin
...
sshd
landscape
pollinate
lucky
- 仅提取指定文件中每行的前4个字符:
lucky@DESKTOP-VQ8KID4:~$ head /etc/passwd
root:x:0:0:root:/root:/bin/bash
daemon:x:1:1:daemon:/usr/sbin:/usr/sbin/nologin
bin:x:2:2:bin:/bin:/usr/sbin/nologin
sys:x:3:3:sys:/dev:/usr/sbin/nologin
sync:x:4:65534:sync:/bin:/bin/sync
games:x:5:60:games:/usr/games:/usr/sbin/nologin
man:x:6:12:man:/var/cache/man:/usr/sbin/nologin
lp:x:7:7:lp:/var/spool/lpd:/usr/sbin/nologin
mail:x:8:8:mail:/var/mail:/usr/sbin/nologin
news:x:9:9:news:/var/spool/news:/usr/sbin/nologin
lucky@DESKTOP-VQ8KID4:~$ cut -c 1-4 /etc/passwd
root
daem
bin:
sys:
sync
...
- 按照指定要求分割:比如获取后缀名
lucky@DESKTOP-VQ8KID4:~$ ls | cut -d "." -f2
txt
txt
py
txt
txt
sh
md
sh
txt
py
sh
字符串截取方法总结
以char
变量来演示:
lucky@DESKTOP-VQ8KID4:~$ char=http://www.baidu.com/123.html
#
号截取,删除左边字符,保留右边字符。
lucky@DESKTOP-VQ8KID4:~$ echo ${char#*//}
www.baidu.com/123.html
其中var
是变量名,#
号是运算符,*//
表示从左边开始删除第一个//
号及左边的所有字符。
##
号截取,删除左边字符,保留右边字符。
lucky@DESKTOP-VQ8KID4:~$ echo ${char##*/}
123.html
##*/
表示从左边开始删除最后(最右边)一个/
号及左边的所有字符。
%
号截取,删除右边字符,保留左边字符
lucky@DESKTOP-VQ8KID4:~$ echo ${char%/*}
http://www.baidu.com
%/*
表示从右边开始,删除第一个/
号及右边的字符。
%%
号截取,删除右边字符,保留左边字符
lucky@DESKTOP-VQ8KID4:~$ echo ${var%%/*}
http:
%%/*
表示从右边开始,删除最后(最左边)一个/
号及右边的字符。
- 从左边第几个字符开始,及字符的个数
lucky@DESKTOP-VQ8KID4:~$ echo ${char:0:5}
http:
其中的 0 表示左边第一个字符开始,5 表示字符的总个数。
- 从左边第几个字符开始,一直到结束。
lucky@DESKTOP-VQ8KID4:~$ echo ${char:7}
www.baidu.com/123.html
其中的 7 表示左边第8个字符开始,一直到结束。
- 从右边第几个字符开始,及字符的个数
lucky@DESKTOP-VQ8KID4:~$ echo ${char:0-7:3}
23.
其中的 0-7 表示右边算起第七个字符开始,3 表示字符的个数。
- 从右边第几个字符开始,一直到结束。
lucky@DESKTOP-VQ8KID4:~$ echo ${char:0-7}
23.html
表示从右边第七个字符开始,一直到结束。
注:左边的第一个字符是用 0 表示,右边的第一个字符用 0-1 表示
题目解决方案
方法一:awk
分割文本
lucky@DESKTOP-VQ8KID4:~$ awk -F "[1,2,3,4,5]" 'BEGIN{sum=0}{print "line"NR" number:"(NF-1);sum+=(NF-1)}END{print "sum is "sum}' nowcoder.txt
line1 number:2
line2 number:1
line3 number:4
sum is 7
拆分步骤:
- 利用1-5作为分隔符将每行的字符串分隔开,统计每一行内容分割后的列数即可得到每行数字的个数
lucky@DESKTOP-VQ8KID4:~$ awk -F "[1,2,3,4,5]" '{print "line"NR" number:"(NF-1)}' nowcoder.txt
line1 number:2
line2 number:1
line3 number:4
- 定义变量
sum
,统计一共有多少个数字
lucky@DESKTOP-VQ8KID4:~$ awk -F "[1,2,3,4,5]" 'BEGIN{sum=0}{print "line"NR" number:"(NF-1);sum+=(NF-1)}END{print "sum is "sum}' nowcoder.txt
line1 number:2
line2 number:1
line3 number:4
sum is 7
当然,上面的,
不是必须的,也就是说可以写成如下形式:
lucky@DESKTOP-VQ8KID4:~$ awk -F "[12345]" 'BEGIN{sum=0}{print "line"NR" number:"NF-1;sum+=NF-1}END{print "sum is "sum}' nowcoder.txt
line1 number:2
line2 number:1
line3 number:4
sum is 7
方法二:awk
搭配for
循环
FS
定义分隔符为空,使用awk
命令逐行处理,用for
循环判断一行的每段是否属于1,2,3,4,5,然后累加sum
变量。
awk 'BEGIN{FS=""}{
num=0;
for(i=1;i<=NF;i++){
if($i>0&&$i<6){num++}
}
sum+=num;
print "line"NR" number:"num
}END{
print "sum is "sum
}' nowcoder.txt
方法三:awk
配合substr
函数
使用substr()
函数分割出每个字符,然后判断每个字符是否符合条件。
cat nowcoder.txt | awk '
BEGIN{sum=0}{
count=0;
for(i=1;i<=length($0);i++){
n=substr($0,i,1);
if(n>0&&n<6){
sum++;
count++;
}
}
print "line"NR " number:"count;
}
END{
print "sum is "sum;
}'
方法四:循环判断
跟方法二基本一致,这里用tr
命令来处理,去除除了1-5的所有字符,剩下的字符全都是符合条件的,直接利用wc
命令求字符数即可。
#!/bin/bash
sum=0
col=0
while read line; do
num=$(echo $line | tr -dc [1-5] | wc -c)
let col+=1
echo 'line'$col 'number:' $num
let sum+=$num
done < nowcoder.txt
echo "sum is" $sum
复习:
tr
命令中的参数
-d
:删除指令-c
:反选内容