把文本中重复的行删除(只保留一条)

在进行文本处理的时候,会经常遇到要删除重复行的情况。有三种常见方法:
  第一,用sort+uniq,注意,单纯uniq是不行的,
               sort -k2n file | uniq
     这里我做了个简单的测试,当file中的重复行不再一起的时候,uniq将服务删除所有的重复行。经过排序后,所有相同的行都在相邻,因此unqi可以正常删除重复行。

  第二,用sort+awk命令,注意,单纯awk同样不行,原因同上。
                 sort -k2n file | awk '{if ($0!=line) print;line=$0}'
       如果全部用awk来解决,也可以不需要sort命令先排序拉。

  第三,用sort+sed命令,同样需要sort命令先排序。
                sort -k2n file | sed '$!N; /^/(.*/)/n/1$/!P; D'
       解释一下:将当前行及下一行放入模式空间,直到遇到$, " /^/(.*/)/n/1 "该条件可以确定模式空间中的两行
是否为相同的行.

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值