sed命令和awk命令详解

vim和sed、awk之间的区别：

    vim命令是交互式的，sed和awk是非交互式的。比如vim需要i来插入，需要wq来保存退出

    vim命令使文件操作模式，sed和awk是行操作模式。

sed命令：

1.sed作用

    sed一般用于对文本内容做替换（不一定非用/分割，任意字符都可以）：

        如sed '/usr1/s/usr1/u1/' /etc/passwd

2.sed的模式空间

    sed的基本工作方式为：

        将文件的每一行读取到内存（模式空间）

        使用sed的每个脚本匹配行，对该行进行操作

        处理完成后输出该行（同echo输出），没有匹配到就原样输出

3.sed的替换命令s:

    -e:使用多个指令，每个指令前都加-e

    -i:替换完成后，将得到的内容写回文件中，替换原来的内容

    sed 's/old/new/' filename

    示例：

    sed -e 's/a/aa/' -e 's/aa/bb/' afile bfile:

        将文件中每一行的首个a变成b，再变成bb，如原文件中内容为a a a，则输出为bb a a

        简化写法：sed 's/a/aa/;s/aa/bb/' afile bfile

    sed -i 's/a/aa/' 's/aa/bb/' afile bfile:

        将文件中每一行的首个a变成b，再变成bb，如原文件中内容为a a a，不输出，将原文

        件中的内容替换为bb a a

    sed 's/...//' afile:

        将文件中每一行前三个字符替换去掉,放心试，没有加-i不会替换原文件的

    sed 's/s*bin//' afile:

        去掉第一个bin或sbin，s*表示0-n个s

    sed 's/^a/b/' afile:

        将每一行开头的a改为b

4.拓展元字符：

    -r:可使用拓展正则表达式,使用拓展元字符必须使用-r

    示例：

        sed -r 's/ab+/!/' afile：

            将每一行中第一个ab+改为!，b+有1-n个。+为扩展元字符，必须使用-r

        sed -r 's/a|b/!/' afile:

            将每一行第一个a或b改为!

        sed -r 's/(aa)|(bb)/!/' afile：

            将每一行第一个aa或bb改为!，不能是sed -r 's/aa|bb/!/'，因为识别不了，会被当成

            sed -r 's/a a|b b/!/'，意思为将a a或b b改为!

        sed -r 's/.*(login)/\1 \1/' /etc/passwd:

            ()中的内容为一组，\1表示第一组,结果如下：

            root:x:0:0:root:/root:/bin/bash

            login login

            login login

            login login

            login login

            sync:x:5:0:sync:/sbin:/bin/sync

5.替换命令加强版：

    全局替换：

        s/old/new/g，全部替换，并不是只替换第一个，如：    

            sed 's/a/b/g' afile: 将每一行中所有的a替换成b

        s/old/new/2，将每一行第二次出现old替换为new，如：    

            sed 's/a/b/2' afile: 将每一行中第二次出现的a替换成b

    s/old/new/p afile:

        没有匹配到old的行不输出

    s/old/new/w afile /usr/local/a.txt:

        将替换成功的行写入到指定文件中

    寻址：

        增加寻址后，只对寻址后的行加载然后匹配。

        /正则表达式/s/old/new/g

        行号s/old/new/g

            行号可以是具体的行，也可以是最后一行，使用$符号

        可以使用两种寻址符号，也可以行号和正则混合使用

        示例：

            sed '/^a/s/a/b/' afile

            sed '1s/a/b/' afile

        匹配多个命令：/regx/{s/old/new/;s/old/new}

    脚本文件：

        sed -f sedscript filename,将sed命令写到脚本文件中，直接使用

6.sed其他命令

    删除：sed [行号或正则]d

        sed '/ab/d' afile, 删除行中有ab的行，只是在模式空间里的输出变化，原文件不变

    追加、插入、更改：

        sed '/ab/i hello' afile，有ab的上一行插入hello

        sed '/ab/a hello' afile，有ab的下一行插入hello

        sed '/ab/c hello' afile，有ab的行内容替换为hello

    打印命令：p ，sed -n '/ab/p' afile 只打印有ab的行

    打印行号命令：=

    下一行：-n，逐行读取，默认是全部读取

        打印行号：sed -n = afile

    读文件和写文件：

        sed '/ab/r bfile' afile, 将afile中有ab的行内容与bfile合并

        sed '/ab/w bfile' afile, 将afile中有ab的行写到bfile

    退出命令：q

        只打印1-10行：

        sed -n '10q' afile （性能更加，只读取前10行）

        sed -n '1,10p' afile

7.sed的多行模式

    为什么要有多行模式：

        配置文件可能有多行情况，用简单替换无法替换配置文件

    N:

        将下一行加入到模式空间

        sed 'N;s/hel\nlo/!!!/' a.text 或 sed 'N;s/.*/!!!/' a.text

        a.text内容如下：

            hel

            lo

    D:

        删除模式空间中的第一个自读到第一个换行符

    P:

        打印模式空间中的第一个字符到第一个换行符

8.保持空间

    保持孔家你也是多行的一种操作方式

    将内容暂存在保存空间，便于做多行处理

    流程： 文本文件 -> 模式空间 -> 保持空间

    h和H将模式空间内容放到保持空间，小写是覆盖，大写是追加

    g和G将保持空间内容放到模式空间，小写是覆盖，大写是追加

    x交换保持空间和模式空间

    示例：

        将文件内容倒序输出： sed -n '1h;1!G;$!x;$p' file

        过程：拿纸推导吧

awk命令：

1.awk作用

    awk一般用于文本内容进行统计、按需要的格式进行输出，例如：

        完整格式：'BEGIN{...}{}END{...}'

        示例：

        cut写法：cut -d : -f 1 /etc/passwd

        awk写法：awk -F: '/wd$/{print $1}' /etc/passwd

2.awk的字段和使用

    每行成为awk的记录

    使用空格、制表符分隔开的单词称作字段

    字段引用：

        awk中使用$1 $2 ... $n 表示每一个字段, $0为全部，与shell中$0是文件名不同

        NF表示总个数

    

    字段分割：

        awk可以使用-F选项改变字段分隔符（可以用正则）：

            awk -F',' '{print $0}' afile

    行匹配：

        awk脚本开头可以用/regx/匹配行：

            awk '/^a/{print $0}' afile:打印a开头的行

        

    示例，有如下文件，打印文件中以menu开头的行中操作系统类型，并显示序号：

            menu 'windows'

            1234

            menu 'linux'

            abc

            menu 'mac'

        答案： awk -F"'" '/^menu/{print x++,$2}' afile

3.判断和循环

    if语句：

        if(表达式){语句}else{语句}

        示例：

            echo 1 2 3 | awk '{if($2>$3){print 1}else{print 0}}'

    while循环：

        while(表达式){语句}

    do while循环：

        do{语句}while(表达式)

    for循环：

        打印0-9：

            echo : | awk '{for(i=0;i<10;i++){print i}}'

        打印每个参数：

            echo 1 2 3 | awk '{for(i=1;i<=NF;i++){print $i}}'

        打印参数的总和：

            echo 1 2 3 | awk '{sum=0;for(i=1;i<=NF;i++){sum+=$i};print sum}'

    break和continue和其他语言相同

4.awk数组

    数组的定义：

        数组名称[下标]=值

            下标可以用数字或字符串，实际上数字也会被存为字符串

    数组的遍历

        for(变量 in 数组名称)

    数组的删除

        delete 数组名称

        delete 数组名称[下标]    

    示例：

        echo 1 2 3 | awk '{for(i=1;i<=NF;i++){arr[i]=$i}}END{for(ele in arr) 

        print ele, arr[ele]}'

    命令行参数数组：

        ARGC 参数个数

        ARGV 参数数组,ARGV[0] 表示命令名称，这里是awk

        示例：

            创建arg.awk文件，内容：BEGIN{for(i=0;i<ARGC;i++){print ARGV[i]}}

            awk -f arg.awk 11 22 33，结果：

                awk

                11

                22

                33

5.awk函数

    算数函数：

        sin() cos()

        int()

        rand():获取随机数[0,1),重复执行是一样的值

        srand()重新获取种子，每次rand()前先使用srand();

    字符串函数：

        以下函数可以用man awk | less，搜索看其含义

        gsub(r,s,t)

        index(s,t)

        length(s)

        match(s,r)

        split(s,a,sep)

        sub(r,s,t)

        substr(s,p,n)

    自定义函数：

        function 函数名(参数){

            语句

            return 返回值

        }

        需要定义在BEGIN之前，示例：

        awk 'function a(num){ return num } BEGIN{print a(0)}'