大数据基础知识(二):Shell命令

Shell命令

        

Shell是系统的用户界面,提供了用户与内核进行交互操作的一种接口。它接收用户输入的命令并把它送入内核去执行 [1]  。
实际上Shell是一个命令解释器,它解释由用户输入的命令并且把它们送到内核。不仅如此,Shell有自己的编程语言用于对命令的编辑,它允许用户编写由shell命令组成的程序。Shell编程语言具有普通编程语言的很多特点,比如它也有循环结构和分支控制结构等,用这种编程语言编写的Shell程序与其他应用程序具有同样的效果。
编写Shell脚本是一个大数据工程师必备的技能,所以每一个学习大数据的程序猿应该掌握项基本的技能。

Sed命令

    1. Sed简介

        sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。以下介绍的是Gnu版本的Sed 3.02。

    2. 定址

        可以通过定址来定位你所希望编辑的行,该地址用数字构成,用逗号分隔的两个行数表示以这两行为起止的行的范围(包括行数表示的那两行)。如1,3表示1,2,3行,美元符号($)表示最后一行。范围可以通过数据,正则表达式或者二者结合的方式确定 。

    3. Sed命令

        调用sed命令有两种形式:
        *
        sed [options] 'command' file(s)
        *
        sed [options] -f scriptfile file(s)
        a\
        在当前行后面加入一行文本。
        b lable
        分支到脚本中带有标记的地方,如果分支不存在则分支到脚本的末尾。
        c\
        用新的文本改变本行的文本。
        d
        从模板块(Pattern space)位置删除行。
        D
        删除模板块的第一行。
        i\
        在当前行上面插入文本。
        h
        拷贝模板块的内容到内存中的缓冲区。
        H
        追加模板块的内容到内存中的缓冲区
        g
        获得内存缓冲区的内容,并替代当前模板块中的文本。
        G
        获得内存缓冲区的内容,并追加到当前模板块文本的后面。
        l
        列表不能打印字符的清单。
        n
        读取下一个输入行,用下一个命令处理新的行而不是用第一个命令。
        N
        追加下一个输入行到模板块后面并在二者间嵌入一个新行,改变当前行号码。
        p
        打印模板块的行。
        P(大写)
        打印模板块的第一行。
        q
        退出Sed。
        r file
        从file中读行。
        t label
        if分支,从最后一行开始,条件一旦满足或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
        T label
        错误分支,从最后一行开始,一旦发生错误或者T,t命令,将导致分支到带有标号的命令处,或者到脚本的末尾。
        w file
         写并追加模板块到file末尾。
        W file
        写并追加模板块的第一行到file末尾。
        !
        表示后面的命令对所有没有被选定的行发生作用。
        s/re/string
        用string替换正则表达式re。
        =
        打印当前行号码。
        #
        把注释扩展到下一个换行符以前。
        以下的是替换标记
        *
        g表示行内全面替换。
        *
        p表示打印行。
        *
        w表示把行写入一个文件。
        *
        x表示互换模板块中的文本和缓冲区中的文本。
        *
        y表示把一个字符翻译为另外的字符(但是不用于正则表达式)

    4. 选项

        -e command, --expression=command
        允许多台编辑。
        -h, --help
        打印帮助,并显示bug列表的地址。
        -n, --quiet, --silent
        取消默认输出。
        -f, --filer=script-file
        引导sed脚本文件名。
        -V, --version
        打印版本和版权信息。

    5. 元字符集

      ^

        锚定行的开始 如:/^sed/匹配所有以sed开头的行。 
        $
        锚定行的结束 如:/sed$/匹配所有以sed结尾的行。 
        .
        匹配一个非换行符的字符 如:/s.d/匹配s后接一个任意字符,然后是d。 
        *
        匹配零或多个字符 如:/*sed/匹配所有模板是一个或多个空格后紧跟sed的行。 
        []
        匹配一个指定范围内的字符,如/[Ss]ed/匹配sed和Sed。 
        [^]
        匹配一个不在指定范围内的字符,如:/[^A-RT-Z]ed/匹配不包含A-R和T-Z的一个字母开头,紧跟ed的行。 
        \(..\)
        保存匹配的字符,如s/\(love\)able/\1rs,loveable被替换成lovers。 
        &
            保存搜索字符用来替换其他字符,如s/love/**&**/,love这成**love**。 
        \<
        锚定单词的开始,如:/\<love/匹配包含以love开头的单词的行。 
        \>
        锚定单词的结束,如/love\>/匹配包含以love结尾的单词的行。 
        x\{m\}
        重复字符x,m次,如:/o\{5\}/匹配包含5个o的行。 
        x\{m,\}
        重复字符x,至少m次,如:/o\{5,\}/匹配至少有5个o的行。 
        x\{m,n\}
        重复字符x,至少m次,不多于n次,如:/o\{5,10\}/匹配5--10个o的行。

    6. 实例

        删除:d命令
        *
        $ sed '2d' example-----删除example文件的第二行。
        *
        $ sed '2,$d' example-----删除example文件的第二行到末尾所有行。
        *
        $ sed '$d' example-----删除example文件的最后一行。
        *
        $ sed '/test/'d example-----删除example文件所有包含test的行。
        替换:s命令
        *
        $ sed 's/test/mytest/g' example-----在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。
        *
        $ sed -n 's/^test/mytest/p' example-----(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。
        *
        $ sed 's/^192.168.0.1/&localhost/' example-----&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都  会被替换成它自已加 localhost,变成192.168.0.1localhost。
        *
        $ sed -n 's/\(love\)able/\1rs/p' example-----love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。
        *
        $ sed 's#10#100#g' example-----不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。
        选定行的范围:逗号
        *    
        $ sed -n '/test/,/check/p' example-----所有在模板test和check所确定的范围内的行都被打印。
        *
        $ sed -n '5,/^test/p' example-----打印从第五行开始到第一个包含以test开始的行之间的所有行。
        *
        $ sed '/test/,/check/s/$/sed test/' example-----对于模板test和west之间的行,每行的末尾用字符串sed test替换。
多点编辑:e命令
        *
        $ sed -e '1,5d' -e 's/test/check/' example-----(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执 行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
        *
        $ sed --expression='s/test/check/' --expression='/love/d' example-----一个比-e更好的命令是--expression。它能给sed表达式赋值。
从文件读入:r命令
        *
        $ sed '/test/r file' example-----file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。
写入文件:w命令
        *
        $ sed -n '/test/w file' example-----在example中所有包含test的行都被写入file里。
追加命令:a命令
        *
        $ sed '/^test/a\\--->this is a example' example    '----->this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。
        插入:i命令
        $ sed '/test/i\\
        new line
-------------------------' example
        如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。
 下一个:n命令
        *
        $ sed '/test/{ n; s/aa/bb/; }' example-----如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。
变形:y命令
        *
        $ sed '1,10y/abcde/ABCDE/' example-----把1--10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。
退出:q命令
        *
        $ sed '10q' example-----打印完第10行后,退出sed。
保持和获取:h命令和G命令
        *
        $ sed -e '/test/h' -e '$G example-----在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将 打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保 持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中 的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。
保持和互换:h命令和x命令
        *
        $ sed -e '/test/h' -e '/check/x' example -----互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

7. 脚本

        Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。

AWK

    简介

        awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。

        awk有3个不同版本: awk、nawk和gawk,未作特别说明,一般指gawk,gawk 是 AWK 的 GNU 版本。

        awk其名称得自于它的创始人 Alfred Aho 、Peter Weinberger 和 Brian Kernighan 姓氏的首个字母。实际上 AWK 的确拥有自己的语言: AWK 程序设计语言 , 三位创建者已将它正式定义为“样式扫描和处理语言”。它允许您创建简短的程序,这些程序读取输入文件、为数据排序、处理数据、对输入执行计算以及生成报表,还有无数其他的功能。

使用方法

        awk '{pattern + action}' {filenames}
        尽管操作可能会很复杂,但语法总是这样,其中 pattern 表示 AWK 在数据中查找的内容,而 action 是在找到匹配内容时所执行的一系列命令。花括号({})不需要在程序中始终出现,但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式,用斜杠括起来。
        awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息,awk抽取信息后,才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
        通常,awk是以文件的一行为处理单位的。awk每接收文件的一行,然后执行相应的命令,来处理文本。

调用awk

        有三种方式调用awk

1.命令行方式

        awk [-F  field-separator]  'commands'  input-file(s)
        其中,commands 是真正awk命令,[-F域分隔符]是可选的。 input-file(s) 是待处理的文件。
        在awk中,文件的每一行中,由域分隔符分开的每一项称为一个域。通常,在不指名-F域分隔符的情况下,默认的域分隔符是空格。

2.shell脚本方式

        将所有的awk命令插入一个文件,并使awk程序可执行,然后awk命令解释器作为脚本的首行,一遍通过键入脚本名称来调用。
        相当于shell脚本首行的:#!/bin/sh
        可以换成:#!/bin/awk

3.将所有的awk命令插入一个单独文件,然后调用:

        awk -f awk-script-file input-file(s)
        其中,-f选项加载awk-script-file中的awk脚本,input-file(s)跟上面的是一样的。 
         本章重点介绍命令行方式。

入门实例

        假设last -n 5的输出如下
[root@www ~]# last -n 5 <==仅取出前五行
root     pts/1   192.168.1.100  Tue Feb 10 11:21   still logged in
root     pts/1   192.168.1.100  Tue Feb 10 00:46 - 02:28  (01:41)
root     pts/1   192.168.1.100  Mon Feb  9 11:41 - 18:30  (06:48)
dmtsai   pts/1   192.168.1.100  Mon Feb  9 11:41 - 11:41  (00:00)
root     tty1                   Fri Sep  5 14:09 - 14:10  (00:01)
如果只是显示最近登录的5个帐号
#last -n 5 | awk  '{print $1}'
root
root
root
dmtsai
root
awk工作流程是这样的:读入有'\n'换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域,$0则表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是"空白键" 或 "[tab]键",所以$1表示登录用户,$3表示登录用户ip,以此类推。
如果只是显示/etc/passwd的账户
#cat /etc/passwd |awk  -F ':'  '{print $1}'  
root
daemon
bin
sys
        这种是awk+action的示例,每行都会执行action{print $1}。
-F指定域分隔符为':'。
        如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以tab键分割
#cat /etc/passwd |awk  -F ':'  '{print $1"\t"$7}'
root    /bin/bash
daemon  /bin/sh
bin     /bin/sh
sys     /bin/sh
        如果只是显示/etc/passwd的账户和账户对应的shell,而账户与shell之间以逗号分割,而且在所有行添加列名name,shell,在最后一行添加"blue,/bin/nosh"。
cat /etc/passwd |awk  -F ':'  'BEGIN {print "name,shell"}  {print $1","$7} END {print "blue,/bin/nosh"}'
name,shell
root,/bin/bash
daemon,/bin/sh
bin,/bin/sh
sys,/bin/sh
....
blue,/bin/nosh
 
        awk工作流程是这样的:先执行BEGING,然后读取文件,读入有/n换行符分割的一条记录,然后将记录按指定的域分隔符划分域,填充域,$0则表示所有域,$1表示第一个域,$n表示第n个域,随后开始执行模式所对应的动作action。接着开始读入第二条记录······直到所有的记录都读完,最后执行END操作。
        搜索/etc/passwd有root关键字的所有行


        #awk -F: '/root/' /etc/passwd
        root:x:0:0:root:/root:/bin/bash
        这种是pattern的使用示例,匹配了pattern(这里是root)的行才会执行action(没有指定action,默认输出每行的内容)。


        搜索支持正则,例如找root开头的: awk -F: '/^root/' /etc/passwd

        搜索/etc/passwd有root关键字的所有行,并显示对应的shell


        # awk -F: '/root/{print $7}' /etc/passwd             
        /bin/bash
         这里指定了action{print $7}


 


        awk内置变量
        awk有许多内置变量用来设置环境信息,这些变量可以被改变,下面给出了最常用的一些变量。


 
         ARGC               命令行参数个数
        ARGV               命令行参数排列
        ENVIRON            支持队列中系统环境变量的使用
        FILENAME           awk浏览的文件名
        FNR                浏览文件的记录数
        FS                 设置输入域分隔符,等价于命令行 -F选项
        NF                 浏览记录的域的个数
        NR                 已读的记录数
        OFS                输出域分隔符
        ORS                输出记录分隔符
        RS                 控制记录分隔符
 
         此外,$0变量是指整条记录。$1表示当前行的第一个域,$2表示当前行的第二个域,......以此类推。

        统计/etc/passwd:文件名,每行的行号,每行的列数,对应的完整行内容:


#awk  -F ':'  '{print "filename:" FILENAME ",linenumber:" NR ",columns:" NF ",linecontent:"$0}' /etc/passwd
filename:/etc/passwd,linenumber:1,columns:7,linecontent:root:x:0:0:root:/root:/bin/bash
filename:/etc/passwd,linenumber:2,columns:7,linecontent:daemon:x:1:1:daemon:/usr/sbin:/bin/sh
filename:/etc/passwd,linenumber:3,columns:7,linecontent:bin:x:2:2:bin:/bin:/bin/sh
filename:/etc/passwd,linenumber:4,columns:7,linecontent:sys:x:3:3:sys:/dev:/bin/sh
     使用printf替代print,可以让代码更加简洁,易读


     awk  -F ':'  '{printf("filename:%s,linenumber:%s,columns:%s,linecontent:%s\n",FILENAME,NR,NF,$0)}' /etc/passwd
     print和printf
     awk中同时提供了print和printf两种打印输出的函数。


        其中print函数的参数可以是变量、数值或者字符串。字符串必须用双引号引用,参数用逗号分隔。如果没有逗号,参数就串联在一起而无法区分。这里,逗号的作用与输出文件的分隔符的作用是一样的,只是后者是空格而已。


        printf函数,其用法和c语言中printf基本相似,可以格式化字符串,输出复杂时,printf更加好用,代码更易懂。


        %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%    %%%%%% 


     awk编程
     变量和赋值


    除了awk的内置变量,awk还可以自定义变量。


    下面统计/etc/passwd的账户人数


    awk '{count++;print $0;} END{print "user count is ", count}' /etc/passwd
    root:x:0:0:root:/root:/bin/bash
    ......
    user count is  40
    count是自定义变量。之前的action{}里都是只有一个print,其实print只是一个语句,而action{}可以有多个语句,以;号隔开。
    这里没有初始化count,虽然默认是0,但是妥当的做法还是初始化为0:
    awk 'BEGIN {count=0;print "[start]user count is ", count} {count=count+1;print $0;} END{print "[end]user count is ",     count}' /etc/passwd
    [start]user count is  0
    root:x:0:0:root:/root:/bin/bash
    ...
    [end]user count is  40
 


    统计某个文件夹下的文件占用的字节数


    ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size}'
    [end]size is  8657198
 


如果以M为单位显示:


ls -l |awk 'BEGIN {size=0;} {size=size+$5;} END{print "[end]size is ", size/1024/1024,"M"}' 
[end]size is  8.25889 M
注意,统计不包括文件夹的子目录。


 


条件语句


 awk中的条件语句是从C语言中借鉴来的,见如下声明方式:


 
if (expression) {
    statement;
    statement;
    ... ...
}


if (expression) {
    statement;
} else {
    statement2;
}


if (expression) {
    statement1;
} else if (expression1) {
    statement2;
} else {
    statement3;
}
 
 


统计某个文件夹下的文件占用的字节数,过滤4096大小的文件(一般都是文件夹):


ls -l |awk 'BEGIN {size=0;print "[start]size is ", size} {if($5!=4096){size=size+$5;}} END{print "[end]size is ", size/1024/1024,"M"}' 
[end]size is  8.22339 M
 


循环语句


awk中的循环语句同样借鉴于C语言,支持while、do/while、for、break、continue,这些关键字的语义和C语言中的语义完全相同。


 


数组


  因为awk中数组的下标可以是数字和字母,数组的下标通常被称为关键字(key)。值和关键字都存储在内部的一张针对key/value应用hash的表格里。由于hash不是顺序存储,因此在显示数组内容时会发现,它们并不是按照你预料的顺序显示出来的。数组和变量一样,都是在使用时自动创建的,awk也同样会自动判断其存储的是数字还是字符串。一般而言,awk中的数组用来从记录中收集信息,可以用于计算总和、统计单词以及跟踪模板被匹配的次数等等。


 


显示/etc/passwd的账户


 
awk -F ':' 'BEGIN {count=0;} {name[count] = $1;count++;}; END{for (i = 0; i < NR; i++) print i, name[i]}' /etc/passwd
0 root
1 daemon
2 bin
3 sys
4 sync
5 games
......
 
这里使用for循环遍历数组


 


awk编程的内容极多,这里只罗列简单常用的用法,更多请参考 http://www.gnu.org/software/gawk/manual/gawk.html
阅读更多
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/Oeljeklaus/article/details/80334829
文章标签: AWK Sed Linux
个人分类: 大数据
所属专栏: 大数据框架知识
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭
关闭