【Java】百万级别数据的Excel如何快速导入到数据库中？

一、问题解析

35.1 需求说明

项目中有一个 Excel 导入的需求：缴费记录导入

由实施 / 用户 将别的系统的数据填入我们系统中的 Excel 模板，应用将文件内容读取、校对、转换之后产生欠费数据、票据、票据详情并存储到数据库中。

在接手之前可能由于之前导入的数据量并不多没有对效率有过高的追求。但是到了 4.0 版本，预估导入时Excel 行数会是 10w+ 级别，而往数据库插入的数据量是大于 3n 的，也就是说 10w 行的 Excel，则至少向数据库插入 30w 行数据。因此优化原来的导入代码是势在必行的。逐步分析和优化了导入的代码，使之在百秒内完成(最终性能瓶颈在数据库的处理速度上，测试服务器 4g 内存不仅放了数据库，还放了很多微服务应用。处理能力不太行)。具体的过程如下，每一步都有列出影响性能的问题和解决的办法。

导入 Excel 的需求在系统中还是很常见的，优化办法可能不是最优的，欢迎读者在评论区留言交流提供更优的思路

一些细节

1.数据导入：导入使用的模板由系统提供，格式是 xlsx (支持 65535+行数据) ，用户按照表头在对应列写入相应的数据

2.数据校验：数据校验有两种：

2.1 字段长度、字段正则表达式校验等，内存内校验不存在外部数据交互。对性能影响较小

2.2 数据重复性校验，如票据号是否和系统已存在的票据号重复(需要查询数据库，十分影响性能)

3.数据插入：测试环境数据库使用 MySQL 5.7，未分库分表，连接池使用 Druid

迭代记录

35.2 A. 第一版：POI + 逐行查询校对 + 逐行插入

这个版本是最古老的版本，采用原生 POI，手动将 Excel 中的行映射成 ArrayList 对象，然后存储到 List，代码执行的步骤如下：

1.手动读取 Excel 成 List

2.循环遍历，在循环中进行以下步骤

.检验字段长度

.一些查询数据库的校验，比如校验当前行欠费对应的房屋是否在系统中存在，需要查询房屋表

3.写入当前行数据

4.返回执行结果，如果出错 / 校验不合格。则返回提示信息并回滚数据

显而易见的，这样实现一定是赶工赶出来的，后续可能用的少也没有察觉到性能问题，但是它最多适用于个位数/十位数级别的数据。存在以下明显的问题：

1.查询数据库的校验对每一行数据都要查询一次数据库，应用访问数据库来回的网络IO次数被放大了 n 倍，时间也就放大了 n 倍

2.写入数据也是逐行写入的，问题和上面的一样

3.数据读取使用原生 POI，代码十分冗余，可维护性差。

35.3 B. 第二版：EasyPOI + 缓存数据库查询操作 +