阿里开源EasyExcel 文件导入导出使用

一、概述

EasyExcel:
        阿里开源:关于Easyexcel | Easy Excel 官网
        Java解析、生成Excel比较有名的框架有Apache poi、jxl。但他们都存在一个严重的问题就是非常的耗内存,poi有一套SAX模式的API可以一定程度的解决一些内存溢出的问题,但POI还是有一些缺陷,比如07版Excel解压缩以及解压后存储都是在内存中完成的,内存消耗依然很大。
        easyexcel重写了poi对07版Excel的解析,一个3M的excel用POI sax解析依然需要100M左右内存,改用easyexcel可以降低到几M,并且再大的excel也不会出现内存溢出;03版依赖POI的sax模式,在上层做了模型转换的封装,让使用者更加简单方便
节约内存


二、导出excel
        三种方式:
                方法1: 如果写到同一个sheet
                方法2: 如果写到不同的sheet 同一个对象
                方法3 如果写到不同的sheet 不同的对象

/**
     * 重复多次写入
     * <p>
     * 1. 创建excel对应的实体对象 参照{@link ComplexHeadData}
     * <p>
     * 2. 使用{@link ExcelProperty}注解指定复杂的头
     * <p>
     * 3. 直接调用二次写入即可
     */
@Test
public void repeatedWrite() {
    // 方法1: 如果写到同一个sheet
    String fileName = TestFileUtil.getPath() + "repeatedWrite" + System.currentTimeMillis() + ".xlsx";
    // 这里 需要指定写用哪个class去写
    try (ExcelWriter excelWriter = EasyExcel.write(fileName, DemoData.class).build()) {
        // 这里注意 如果同一个sheet只要创建一次
        WriteSheet writeSheet = EasyExcel.writerSheet("模板").build();
        // 去调用写入,这里我调用了五次,实际使用时根据数据库分页的总的页数来
        for (int i = 0; i < 5; i++) {
            // 分页去数据库查询数据 这里可以去数据库查询每一页的数据
            List<DemoData> data = data();
            excelWriter.write(data, writeSheet);
        }
    }

    // 方法2: 如果写到不同的sheet 同一个对象
    fileName = TestFileUtil.getPath() + "repeatedWrite" + System.currentTimeMillis() + ".xlsx";
    // 这里 指定文件
    try (ExcelWriter excelWriter = EasyExcel.write(fileName, DemoData.class).build()) {
        // 去调用写入,这里我调用了五次,实际使用时根据数据库分页的总的页数来。这里最终会写到5个sheet里面
        for (int i = 0; i < 5; i++) {
            // 每次都要创建writeSheet 这里注意必须指定sheetNo 而且sheetName必须不一样
            WriteSheet writeSheet = EasyExcel.writerSheet(i, "模板" + i).build();
            // 分页去数据库查询数据 这里可以去数据库查询每一页的数据
            List<DemoData> data = data();
            excelWriter.write(data, writeSheet);
        }
    }

    // 方法3 如果写到不同的sheet 不同的对象
    fileName = TestFileUtil.getPath() + "repeatedWrite" + System.currentTimeMillis() + ".xlsx";
    // 这里 指定文件
    try (ExcelWriter excelWriter = EasyExcel.write(fileName).build()) {
        // 去调用写入,这里我调用了五次,实际使用时根据数据库分页的总的页数来。这里最终会写到5个sheet里面
        for (int i = 0; i < 5; i++) {
            // 每次都要创建writeSheet 这里注意必须指定sheetNo 而且sheetName必须不一样。这里注意DemoData.class 可以每次都变,我这里为了方便 所以用的同一个class
            // 实际上可以一直变
            WriteSheet writeSheet = EasyExcel.writerSheet(i, "模板" + i).head(DemoData.class).build();
            // 分页去数据库查询数据 这里可以去数据库查询每一页的数据
            List<DemoData> data = data();
            excelWriter.write(data, writeSheet);
        }
    }

}



三、文件写入

        四种方式:

@PostMapping("/add")
    public void simpleRead() {
        // 写法1:JDK8+ ,不用额外写一个DemoDataListener
        // since: 3.0.0-beta1
        String fileName = "demo" + File.separator + "demo.xlsx";
        // 这里默认每次会读取100条数据 然后返回过来 直接调用使用数据就行
        // 具体需要返回多少行可以在`PageReadListener`的构造函数设置
        EasyExcel.read(fileName, Partner.class, new PageReadListener<Partner>(dataList -> {
            for (Partner partner : dataList) {
                log.info("读取到一条数据{}", JSON.toJSONString(partner));
            }
        })).sheet().doRead();

        // 写法2:
        // 匿名内部类 不用额外写一个DemoDataListener
        fileName = "demo" + File.separator + "demo.xlsx";
        // 这里 需要指定读用哪个class去读,然后读取第一个sheet 文件流会自动关闭
        EasyExcel.read(fileName, Partner.class, new ReadListener<Partner>() {
            /**
             * 单次缓存的数据量
             */
            public static final int BATCH_COUNT = 100;
            /**
             *临时存储
             */
            private List<Partner> cachedDataList = ListUtils.newArrayListWithExpectedSize(BATCH_COUNT);

            @Override
            public void invoke(Partner data, AnalysisContext context) {
                cachedDataList.add(data);
                if (cachedDataList.size() >= BATCH_COUNT) {
                    saveData();
                    // 存储完成清理 list
                    cachedDataList = ListUtils.newArrayListWithExpectedSize(BATCH_COUNT);
                }
            }

            @Override
            public void doAfterAllAnalysed(AnalysisContext context) {
                saveData();
            }

            /**
             * 加上存储数据库
             */
            private void saveData() {
                log.info("{}条数据,开始存储数据库!", cachedDataList.size());
                log.info("存储数据库成功!");
            }
        }).sheet().doRead();

        // 有个很重要的点 DemoDataListener 不能被spring管理,要每次读取excel都要new,然后里面用到spring可以构造方法传进去
        // 写法3:
        fileName ="demo" + File.separator + "demo.xlsx";
        // 这里 需要指定读用哪个class去读,然后读取第一个sheet 文件流会自动关闭
        EasyExcel.read(fileName, Partner.class, new DemoDataListener()).sheet().doRead();

        // 写法4
        fileName ="demo" + File.separator + "demo.xlsx";
        // 一个文件一个reader
        try (ExcelReader excelReader = EasyExcel.read(fileName, Partner.class, new DemoDataListener()).build()) {
            // 构建一个sheet 这里可以指定名字或者no
            ReadSheet readSheet = EasyExcel.readSheet(0).build();
            // 读取一个sheet
            excelReader.read(readSheet);
        }
    }



        第三种、第四种需要监听器:

// 有个很重要的点 DemoDataListener 不能被spring管理,要每次读取excel都要new,然后里面用到spring可以构造方法传进去
@Slf4j
public class DemoDataListener implements ReadListener<Partner> {

    /**
     * 每隔5条存储数据库,实际使用中可以100条,然后清理list ,方便内存回收
     */
    private static final int BATCH_COUNT = 100;
    /**
     * 缓存的数据
     */
    private List<Partner> cachedDataList = ListUtils.newArrayListWithExpectedSize(BATCH_COUNT);
    /**
     * 假设这个是一个DAO,当然有业务逻辑这个也可以是一个service。当然如果不用存储这个对象没用。
     */
    private Partner partner;

    public DemoDataListener() {
        // 这里是demo,所以随便new一个。实际使用如果到了spring,请使用下面的有参构造函数
        partner = new Partner();
    }

    /**
     * 如果使用了spring,请使用这个构造方法。每次创建Listener的时候需要把spring管理的类传进来
     *
     * @param partner
     */
    public DemoDataListener(Partner partner) {
        this.partner = partner;
    }

    /**
     * 这个每一条数据解析都会来调用
     *
     * @param data    one row value. Is is same as {@link AnalysisContext#readRowHolder()}
     * @param context
     */
    @Override
    public void invoke(Partner data, AnalysisContext context) {
        log.info("解析到一条数据:{}", JSON.toJSONString(data));
        cachedDataList.add(data);
        // 达到BATCH_COUNT了,需要去存储一次数据库,防止数据几万条数据在内存,容易OOM
        if (cachedDataList.size() >= BATCH_COUNT) {
            saveData();
            // 存储完成清理 list
            cachedDataList = ListUtils.newArrayListWithExpectedSize(BATCH_COUNT);
        }
    }

    /**
     * 所有数据解析完成了 都会来调用
     *
     * @param context
     */
    @Override
    public void doAfterAllAnalysed(AnalysisContext context) {
        // 这里也要保存数据,确保最后遗留的数据也存储到数据库
        saveData();
        log.info("所有数据解析完成!");
    }

    /**
     * 加上存储数据库
     */
    private void saveData() {
        log.info("{}条数据,开始存储数据库!", cachedDataList.size());
        partner.save(cachedDataList);
        log.info("存储数据库成功!");
    }
}



四、场景案列

1、文件写入

接口配置:

@PostMapping("/import")
public void importExcel(@RequestParam("file") MultipartFile file) throws IOException {
    log.info("处理导入请求");
    if (!file.isEmpty()) {
        // 获取上传文件的原始名称
        String originalFilename = file.getOriginalFilename();

        // 临时文件路径,可以根据实际情况调整,就是linux或者windows对应路径
        String tempPath = "D:\\ideaWorkSpace\\qdf_java\\" + originalFilename;

        // 将上传的Excel文件写入临时文件
        try (BufferedOutputStream outputStream = new BufferedOutputStream(new FileOutputStream(tempPath))) {
            byte[] bytes = file.getBytes();
            outputStream.write(bytes);
        }

        // 使用临时文件路径进行数据读取 
        String fileName = tempPath;
        EasyExcel.read(fileName, Partner.class, new PageReadListener<Partner>(dataList -> {
            partnerService.patchAdd(dataList);
            for (Partner partner : dataList) {

                log.info("读取到一条数据{}", JSON.toJSONString(partner));
            }
        })).sheet().doRead();

        // 可选:在操作完成后删除临时文件(如果不打算保留)
        Files.deleteIfExists(Paths.get(fileName));
    } else {
        throw new RuntimeException("上传的文件为空");
    }
}

image.png


2、文件写出

接口配置:

@GetMapping("/export")
public ResponseEntity<byte[]> repeatedWrite1() {
    log.info("处理导出请求");
    int pageSize = 500;

    ByteArrayOutputStream byteArrayOutputStream = new ByteArrayOutputStream();

    try (ExcelWriter excelWriter = EasyExcel.write(byteArrayOutputStream, Partner.class).build()) {
        WriteSheet writeSheet = EasyExcel.writerSheet("模板").build();  //sheet名称

        int totalPageCount = partnerService.getTotalPageCount(pageSize); // 总页码
        System.out.println("totalPageCount:" + totalPageCount);
        for (int i = 0; i < totalPageCount; i++) {
            // 分页去数据库查询数据
            List<Partner> data = partnerService.findPartnersByPage(i, pageSize);  // 查出每页数据
            log.info("第" + (i+1) + "页数据条数:" + data.size());

            // 将数据写入内存中的ExcelWriter
            excelWriter.write(data, writeSheet);
        }
    } catch (Exception e) {
        log.error("导出Excel时发生错误", e);
        return ResponseEntity.status(HttpStatus.INTERNAL_SERVER_ERROR).build();
    }

    // 将内存中的Workbook转换为字节数组
    byte[] excelBytes = byteArrayOutputStream.toByteArray();

    // 设置HTTP响应头,告知浏览器这是一个需要下载的文件
    HttpHeaders headers = new HttpHeaders();
    headers.add(HttpHeaders.CONTENT_DISPOSITION, "attachment; filename=repeatedWrite1_" + System.currentTimeMillis() + ".xlsx");
    headers.setContentType(MediaType.APPLICATION_OCTET_STREAM);

    // 返回包含Excel内容的ResponseEntity,浏览器将下载文件
    return ResponseEntity.ok().headers(headers).body(excelBytes);
}


浏览器直接响应弹框,以下为接口测试:

image.png

3、实体类注解配置

详细注解看官网:https://easyexcel.opensource.alibaba.com/docs/

@Data
public class Partner extends BaseDomain{

    @ExcelProperty("合伙人区域ID")
    private Long id;
    /**
     * 合伙人id
     */
    @ExcelProperty("管理员ID")
    private Long adminId;

    /**
     * 密钥
     */
    @ExcelIgnore // 忽略的字段
    private String secretKey;

  • 6
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值