流式读写Excel的数据【适用数据量大的导入导出操作时使用】

我们在研发项目或产品时,会有遇到要上传文件到系统的情况,系统会对上传的文件数据进行读取、解析、验证、做业务处理、最后导入数据到库的操作。

一般1W之内的数据,用apache中的POI包可以实现解析数据的功能,POI会将数据加载到内存中,虽然读取数据需要占用一些内存,但还是能比较轻松应对的,因为数据量比较小。

不过随着你上传的Excel的数据量的增大,2W、3W、4W、5W... 10W...50W, 甚至是100W以上,你的内存就会溢出了,内存虽然能扩大,但是如果系统并发的读取Excel的数据进行处理,系统照样会挂。

如何解决读取数据量较大的Excel文件而内存溢出的问题呢?

POI没有提供解决的包,因此有人就会想,采取部分的数据进行读取,这样就不用一次加载数据到内存中,github上有人提供的解决方案的包,他在POI的基础之上,先将上传的文件写到本地临时文件夹中,然后用POI的ZipPackage解析临时文件,读出格式为"application/vnd.openxmlformats-package.core-properties+xml"的内容,其实它是XML的格式数据,然后将拆解的XML数据写到本地文件中,再用XSSFReader读取ZipPackage中的workbook的XML对应的"/workbook/sheets/sheet"数据流,将每一个Sheet流封装成XMLEventReader,他将XMLEventReader封装到他自己定义的StreamingSheetReader,把StreamingSheetReader装入StreamingSheet,最后将StreamingSheet封装入StreamingWorkbook&

  • 0
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值