使用grep和awk删除大文件包含小文件的记录

需求:对账支付文件剔除退款文件的订单
1、使用变量aa接收文件awk取值(注意使用|分割、printf不换行)
aa=`more UPAYJFKC9820170604.101.bak|awk -F "," '{printf "|"$4}'`
2、使用sed除去第一个|符号,然后给变量bb
bb=`echo $aa|sed 's/.//'`
3、使用grep -v排除 -E使用扩展正则
此时注意: -E 是大写 ,匹配条件一定要加 引号
grep -v -E "$bb"   UPAYJFKC9820170604.101> cs.txt
GetFile]$ date && grep -v -E "$bb"   UPAYJFKC9820170604.101> cs.txt && date
Fri Jul 28 11:38:38 CST 2017
Fri Jul 28 11:39:06 CST 2017
批量处理,400w数据剔除2千笔数据,几十秒,还可以吧!
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值