POWERSHELL 多线程在大数据文本中查找字符串

问题:有个文件”SN12345678_古典名著.txt”,一个数据文本test.txt. test.txt的行内容格式大致如下:"12345678","三国演义","罗贯中","200","人民出版社
摘要由CSDN通过智能技术生成

问题:有个文件”SN12345678_古典名著.txt”,一个数据文本test.txt. test.txt的行内容格式大致如下:

"12345678","三国演义","罗贯中","200","人民出版社",

提取”SN12345678_古典名著.txt”中的8位数字,在test.txt中第一列(假设以逗号做为列的分隔符)进行比对,如果匹配成功,就将”SN12345678_古典名著.txt”重命名为”三国演义_12345678.txt”.

分析

如果逐行比对,如果test.txt有300W行,可能几个小时都出不了结果.

方案一

将test.txt读入变量,用正则对整个变量进行匹配,比逐行比对效率要高的多.

$content=[System.IO.File]::ReadAllLines('d:\test.txt',[text.encoding]::Default)
$content -match '12345678'

如果匹配成功,会列出所有匹配的内容,而不是布尔值.这样就可以提取结果中的内容.
然而,这个方案的效率还是不能让人满意.于是想到了多线程.

方案二

将test.txt的内容分割成N段,每段1W行,为每段建一个线程,共N个线程,每个线程单独进行匹配.可能逐行比对几个小时才能完成的任务,这个方案几十秒就完成了.

#============脚本块============
  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值