node js 批量处理pdf,提取关键信息,并导出excel

本文介绍了一个使用Node.js批量处理PDF,提取单位名称、统一社会信用代码和行业类别等关键信息,并将数据导出为Excel表格的程序。主要涉及pdf2json库解析PDF,正则表达式匹配关键字,以及node-xlsx库导出Excel。在处理大量文件时,遇到了内存泄漏问题,通过限制并发数量解决了该问题。
摘要由CSDN通过智能技术生成

batchPDF

a node programing that fetch key infomation from more than two thousand pdf documents,and output in excel

需求描述:处理同一目录下的2000个pdf文件,提取每个文件中的一些关键信息(单位名称,统一社会信用代码,行业类别),并整理数据导出为excel表格。


  最近在看node文件处理,恰好发现校友群里有个土木专业的同学提出这么一个问题,当时的第一想法就是我也许可以做,然后就找到了那个同学问清楚了明确需求,并且要了部分pdf文件,开始做......   我的第一想法就是,首先读取目录下的文件,然后对每个文件内容,进行正则匹配,找出目的信息,然后再导出。事实上也是这么回事,基本上分为三步:

  1. 读取文件
  2. 解析文件,匹配关键字。
  3. 导出excel

读取文件

  node读取pdf文件,引入了'pdf2json':

npm install pdf2json --save
复制代码

使用这个包,可以将pdf解析为json格式,从而得到文件的内容

const PDFParser = require('pdf2json');
const src = './pdf';

var pdfParser = new PDFParser(this, 1);
pdfParser.loadPDF(`${src}/${path}`);
pdfParser.on('pdfParser_dataError', errData =>reject( new Error(errData.parserError)));
pdfParser.on('pdfParser_dataReady', () => {
    let data = pdfParser.getRawTextContent();

});
复制代码

使用正则表达式匹配出关键字

  目标是找出每个文件中的“单位名称”、”统一社会信用代码“、“行业类别”,仔细分析上一过程中输出的结果:

  因为要处理的文件内容格式都非常严谨,我们所要获取的信息都在第三页,解析出的json数据中,目标文本分布在page(1)和page(3)中,且目标文本格式都是key:value的格式,每一个文本都换行,所以处理起来就方便多了,最终匹配的是以“单位名称:”开头的一个或者多个非空字符,由于要匹配三个值,所以用(red|blue|green)这种方式来查找目标值。

let result = data.match(/(统一社会信用代码|单位名称|行业类别
  • 7
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值