大数据量Excel Import导致OOM问题

http://www.iteye.com/topic/199061

正在做一个Excel import的东东,不知道论坛上用POI的朋友有没有考虑过大数据量Excel文件导入导致内存溢出的问题

HSSFWorkbook wb=new HSSFWorkbook(new FileInputStream(fileName));


从本地得到的FileInputStream为HSSFWorkbook初始化是一次性全部加在到内存中(每行不到10个字段,总共不到20000行数据),这一句就直接抛出OOM异常

引用

Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
        at org.apache.poi.hssf.usermodel.HSSFRow.createCellFromRecord(HSSFRow.java:181)
        at org.apache.poi.hssf.usermodel.HSSFSheet.setPropertiesFromSheet(HSSFSheet.java:182)
        at org.apache.poi.hssf.usermodel.HSSFSheet.<init>(HSSFSheet.java:123)
        at org.apache.poi.hssf.usermodel.HSSFWorkbook.<init>(HSSFWorkbook.java:264)
        at org.apache.poi.hssf.usermodel.HSSFWorkbook.<init>(HSSFWorkbook.java:168)
        at org.apache.poi.hssf.usermodel.HSSFWorkbook.<init>(HSSFWorkbook.java:297)
        at org.apache.poi.hssf.usermodel.HSSFWorkbook.<init>(HSSFWorkbook.java:278)
        at javaapplication4.Main.main(Main.java:30)




提问之前有查过相关贴,看到有的兄弟能处理1x万行的数据导入,不知道如何做到的.加载之前将大excel拆分成若干小文件吗?如何办到?

 

===============

内存加大点  -Xms?
默认只有64M

=======

kayoo 写道
内存加大点  -Xms?
默认只有64M



的确是这样
用java -Xms512m -Xmx1204m -jar xxx.jar
6万行的数据(Excel文件最大6.5w行per sheet)不到2秒都可以读入内存

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
针对使用 easyExcel 导出数据导致 OOM(Out of Memory)问题,以下是从分页、流式查询、线程池和 CountDownLatch 这几个角度来优化的建议: 1. 分页:考虑将数据分页处理,每次处理一定数的数据,以减少内存占用。可以通过数据库的分页查询或者内存中的数据分片来实现。在导出时,只将当前页的数据加载到内存中,处理完后再加载下一页的数据。 2. 流式查询:使用流式查询可以避免一次性将所有数据加载到内存中。可以使用游标或者迭代器等方式,逐条读取数据并进行处理,而不是一次性读取所有数据。这样可以大大减小内存占用。 3. 线程池:可以使用线程池来并发处理数据导出任务。将任务拆分成多个子任务,并通过线程池来并发执行这些子任务。这样可以充分利用系统资源,提高导出效率。 4. CountDownLatch:CountDownLatch 可以用于控制多个线程的同步。可以将数据导出任务拆分成多个子任务,并使用 CountDownLatch 来控制这些子任务的执行顺序和同步。每个子任务完成后,通过 CountDownLatch 来等待其他子任务的完成,然后再进行下一步操作。 此外,还可以考虑一些其他优化措施,如增加 JVM 内存限制、合理设置 easyExcel 的缓存参数、对导出数据进行压缩等。通过综合运用以上优化策略,可以有效降低内存占用和提高导出效率,从而解决 OOM 问题

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值