easyexcel大数据量(百万数据),写入到excel

文章展示了如何使用EasyExcel库在Java中处理大量数据,将其高效地写入Excel文件。通过将数据切片并分页写入多个工作表,避免一次性加载所有数据导致的内存问题。同时,还给出了从数据库分页查询数据并写入Excel的实现方法。
摘要由CSDN通过智能技术生成

代码

    /**
     * easyexcel大数据量(百万数据),写入到excel
     */
    @Test
    void bigData() throws FileNotFoundException {
        //输出流,确定文件存放位置
        FileOutputStream fileOutputStream = new FileOutputStream("E:\\tmp\\user.xlsx");
        //所有数据
        ArrayList<User> users = new ArrayList<>();
        for (int i = 0; i < 100 * 30000; i++) {
            User user = new User();
            user.setCjsj(new Date().toString());
            user.setId(i);
            user.setLxfs(i + "");
            user.setYxds("广州");
            user.setTzqy("广东");
            users.add(user);
        }
        //将数据切分成多个,放置到不同的sheet
        ArrayList<List<User>> objects = new ArrayList<>();
        int size = 100 * 200;
        int sheetNum = users.size() / size + (users.size() % size > 0 ? 1 : 0);
        for (int i = 0; i < sheetNum; i++) {
            objects.add(users.subList(i * size, (i + 1) * size <= users.size() ? (i + 1) * size : users.size()));
        }
        ExcelWriter build = EasyExcel.write(fileOutputStream, User.class)
                .build();
        //将数据写入到excel,循环写入
        for (int i = 0; i < objects.size(); i++) {
            build.write(objects.get(i), EasyExcel.writerSheet("表格" + i).build());
        }
        build.finish();
    }

从数据库实现

  @Test
    void sqlexport() throws FileNotFoundException {
        //输出流,确定文件存放位置
        FileOutputStream fileOutputStream = new FileOutputStream("E:\\tmp\\user.xlsx");
        ExcelWriter build = EasyExcel.write(fileOutputStream, User.class)
                .build();
        //1.查询数据量大小
        Integer number = fileService.querySum();
        int size = 100 * 1000;
        //2.计算有多少个sheet
        int sheetNum = number / size + (number % size > 0 ? 1 : 0);
        //3.循环写入
        for (int i = 0; i < sheetNum; i++) {
            List<User> users = fileService.queryUserByPage(i * size, size);
            build.write(users, EasyExcel.writerSheet("表格" + i).build());
        }
        //4.关闭流
        build.finish();
    }

dao层

 /**
     * 查询数据量有多少
     */
    public Integer querySum() {
        String sql = "select count(*) from user";
        Integer integer = jdbcTemplate.queryForObject(sql, Integer.class);
        return integer > 0 ? integer : 0;
    }

    /**
     * 分页查询数据
     *
     * @param start
     * @param size
     * @return
     */
    public List<User> queryUserByPage(Integer start, Integer size) {
        //开始位置,拿多少数据(]
        String sql = String.format("select * from user limit %s,%s", start, size);
        List<User> users = jdbcTemplate.query(sql, new BeanPropertyRowMapper<>(User.class));
        return users;
    }
EasyExcel是阿里巴巴开源的一款基于JavaExcel数据导入导出工具,它特别适合处理大数据的场景,因为它支持流式读写和断点续传,能够有效降低内存消耗。以下是EasyExcel大数据导出方面的几个关键特性: 1. **分片读取**:EasyExcel允许你按行或按列将大文件分割成多个较小的数据块,逐块读取和处理,这样可以避免一次性加载整个Excel到内存中。 2. **延迟加载**:对于不需要立即计算的部分,如复杂的业务逻辑或计算密集型操作,EasyExcel可以延迟处理,直到真正需要结果时才执行。 3. **缓存优化**:通过缓存机制,例如一缓存、二缓存等,减少对数据库或者其他慢源的访问,提高整体性能。 4. **线程池并发**:利用Java的多线程技术,EasyExcel可以配置多线程并行处理,进一步提升导出速度。 5. **错误处理**:提供了一套完善的异常处理机制,能够处理导入过程中的错误,并保证数据的一致性和完整性。 使用EasyExcel导出大数据时,通常会结合Spring Boot、MyBatis等框架,通过服务层封装导出逻辑,并设置合适的分片大小和并发别。下面是一个简单的示例: ```java // 创建ExcelWriter对象 ExcelWriter excelWriter = ExcelWriterBuilder.create(response.getOutputStream()) .build(); // 使用writer写入数据,这里是异步或分片处理 List<YourData> dataList = fetchDataFromDatabase(); // 假设你有获取数据的方法 for (YourData data : dataList) { excelWriter.write(data); } // 关闭writer完成导出 excelWriter.finish(); ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值