在开发中我们经常会涉及到excel的处理,如将用户信息导出为excel表格,将Excel表中的信息导入到数据库,大大缩减人工的录入工作。目前比较流行的是Apache POI和阿里巴的easyExcel来操作Excel表格。
1、什么是Apach POI?
1.1 简介:
Apache POI - the Java API for Microsoft Documentshttps://poi.apache.org/
注意:操作Excel主要用到的是HSSF和XSSF。
- HSSF 对应 Excel 03 版本,最多支持65535行
- XSSF对应 Excel 07 版本,行数无限制
1.2 创建项目
(1)创建maven项目,作为父项目,去掉src目录
(2)创建poi-study模块
(3)导入Apach POI操作相关依赖
<dependencies>
<!--xLs(03)-->
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi</artifactId>
<version>4.1.2</version>
</dependency>
<!--xLsx(07)-->
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi-ooxml</artifactId>
<version>3.9</version>
</dependency>
<!--日期格式化工具-->
<dependency>
<groupId>joda-time</groupId>
<artifactId>joda-time</artifactId>
<version>2.10.1</version>
</dependency>
<!--test-->
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.12</version>
</dependency>
</dependencies>
(4)Excel表格中的几个概念:
2、POI-Excel写操作
直接创建测试类,编写测试即可:
public class ExcelWriteTest {
//构建路径
String path="H:\\kuang-poi\\";
@Test
public void testWrite03() throws Exception {
//创建新的工作簿
HSSFWorkbook workbook = new HSSFWorkbook();
//在Excel工作簿中建一张表
//Sheet sheet = workbook.createSheet();
// 如要新建一名为"会员登录统计"的工作表,其语句为:
Sheet sheet =workbook.createSheet("狂神观众统计表");
//创建行(row1)
Row row1 = sheet.createRow(0);
//创建单元格(col1-1)
Cell cell11 = row1.createCell(0);
cell11.setCellValue("今日新增观众");
//创建单元格(col1-2)
Cell cell12 = row1.createCell(1);
cell12.setCellValue(999);
//创建行(row2)
Row row2 = sheet.createRow(1);
//创建单元格(col2-1)
Cell cell21 = row2.createCell(0);
cell21.setCellValue("统计时间");
//创建单元格(col2-2)
Cell cell22 = row2.createCell(1);
String dateTime = new DateTime().toString("yyyy-MM-dd HH:mm:ss");
cell22.setCellValue(dateTime);
//新建一个输出文件流(注意先创建文件夹)
FileOutputStream out = new FileOutputStream(path + "狂神观众统计表03.xls");
//把相应的Excel工作簿存盘
workbook.write(out);
//操作结束,关闭文件
out.close();
System.out.println("文件生成成功");
}
@Test
public void testWrite07() throws Exception{
//创建新的工作簿,只有对象发生了变化
XSSFWorkbook workbook = new XSSFWorkbook();
// 如要新建一名为"会员登录统计"的工作表,其语句为:
Sheet sheet =workbook.createSheet("狂神观众统计表");
//创建行(row1)
Row row1 = sheet.createRow(0);
//创建单元格(col1-1)
Cell cell11 = row1.createCell(0);
cell11.setCellValue("今日新增观众");
//创建单元格(col1-2)
Cell cell12 = row1.createCell(1);
cell12.setCellValue(999);
//创建行(row2)
Row row2 = sheet.createRow(1);
//创建单元格(col2-1)
Cell cell21 = row2.createCell(0);
cell21.setCellValue("统计时间");
//创建单元格(col2-2)
Cell cell22 = row2.createCell(1);
String dateTime = new DateTime().toString("yyyy-MM-dd HH:mm:ss");
cell22.setCellValue(dateTime);
//新建一个输出文件流(注意先创建文件夹)
FileOutputStream out = new FileOutputStream(path + "狂神观众统计表07.xlsx");
//把相应的Excel工作簿存盘
workbook.write(out);
//操作结束,关闭文件
out.close();
System.out.println("文件生成成功");
}
}
2.1 大文件写HSSF
缺点:最多只能处理65536行,否则会抛出异常;
优点:过程中写入缓存,不操作磁盘,最后一次性写入磁盘,速度快;
@Test
public void testWrite03BigData() throws Exception{
//记录开始时间
long begin = System.currentTimeMillis();
//创建一个HSSFWorkbook
Workbook workbook = new HSSFWorkbook();
//创建一个sheet
Sheet sheet = workbook.createSheet();
//xls文件最大支持65536行
for (int rowNum = 0; rowNum < 65536; rowNum++) {
//创建一个行
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum <10 ; cellNum++) {
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("done");
FileOutputStream out = new FileOutputStream(path+"bigdata03.xls");
workbook.write(out);
// 操作结束,关闭文件
out.close();
//记录结束时间
long end = System.currentTimeMillis();
System.out.println((double)(end-begin)/1000);
}
2.2 大文件写XSSF
优点:可以写较大的数据量,没有限制;
缺点:写数据时速度非常慢,非常耗内存,数据量过大时会发生内存溢出;
@Test
public void testWrite07BigData() throws Exception {
//记录开始时间
long begin = System.currentTimeMillis();
//创建一个XSSFWorkbook
Workbook workbook = new XSSFWorkbook();
//创建一个sheet
Sheet sheet = workbook.createSheet();
//xls文件最大支持65536行
for (int rowNum = 0; rowNum < 100000; rowNum++) {
//创建一个行
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum < 10; cellNum++) {//创建单元格
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("done");
FileOutputStream out = new FileOutputStream(path+"bigdata07.xlsx");
workbook.write(out);
// 操作结束,关闭文件
out.close();
//记录结束时间
long end = System.currentTimeMillis();
System.out.println((double)(end - begin)/1000);
}
2.3 大文件写SXSSF
优点:可以写非常大的数据量,如100万条甚至更多条,写数据速度快,占用更少的内存;
缺点:过程中会产生临时文件,需要清理临时文件;
@Test
public void testWrite07BigDataFast() throws Exception {
//记录开始时间
long begin = System.currentTimeMillis();
//创建一个SXSSFWorkbook
Workbook workbook = new SXSSFWorkbook();
//创建一个sheet
Sheet sheet = workbook.createSheet();
//xls文件最大支持65536行
for (int rowNum = 0; rowNum < 100000; rowNum++) {
//创建一个行
Row row = sheet.createRow(rowNum);
for (int cellNum = 0; cellNum < 10; cellNum++) {//创建单元格
Cell cell = row.createCell(cellNum);
cell.setCellValue(cellNum);
}
}
System.out.println("done");
FileOutputStream out = new FileOutputStream(path+"bigdata07-fast.xlsx");
workbook.write(out);
// 操作结束,关闭文件
out.close();
//清除临时文件
((SXSSFWorkbook)workbook).dispose();
//记录结束时间
long end = System.currentTimeMillis();
System.out.println((double)(end - begin)/1000);
}
运行上述操作结果如下:
3、POI-Excel读操作
3.1 Excel 03类型
public class ExcelReadTest {
String path="H:\\kuang-poi\\";
@Test
public void testRead03() throws Exception{
InputStream fileInputStream = new FileInputStream(path + "狂神观众统计表03.xls");
Workbook workbook = new HSSFWorkbook(fileInputStream);
Sheet sheet = workbook.getSheetAt(0);
//读取第一行第一列
Row row = sheet.getRow(0);
Cell cell11 = row.getCell(0);
//输出单元格内容
System.out.println(cell11.getRichStringCellValue());
//操作结束,关闭文件
fileInputStream.close();
}
}
3.2 Excel 07类型
@Test
public void testRead07() throws Exception{
//获取文件流
InputStream is = new FileInputStream(path+"/狂神观众统计表07.xlsx");
//1、创建一个工作簿。使用 Excel能操作的这边都可以操作!
Workbook workbook = new XSSFWorkbook(is);
//2、得到表
Sheet sheet = workbook.getSheetAt(0);
//3、读取第一行第一列
Row row = sheet.getRow(0);
Cell cell = row.getCell(0);
//4、输出单元内容
//读取值的时候,一定要注意类型!getStringCellValue 字符串类型
System.out.println(cell.getStringCellValue());
// 操作结束,关闭文件
is.close();
}
3.3 读取不同类型
注意:读取不同的数据类型,是工作上的重点,这段类型匹配代码工作时可直接复制
//读取不同类型
@Test
public void testTypeCell() throws Exception{
//获取文件流
InputStream is = new FileInputStream(path+"会员消费商品明细表.xls");
//创建一个工作簿,使用 excel能操作的这边都可以操作
Workbook workbook = new HSSFWorkbook(is);
//得到表
Sheet sheet = workbook.getSheetAt(0);
//读取标题内容
Row rowTitle = sheet.getRow(0);
if (rowTitle!=null){
//读取列,得到一行有多少列有数据
int cellCount = rowTitle.getPhysicalNumberOfCells();
for (int cellNum = 0; cellNum < cellCount; cellNum++) {
Cell cell = rowTitle.getCell(cellNum);
if (cell!=null){
String cellValue = cell.getStringCellValue();
System.out.print(cellValue+"|");
}
}
System.out.println();
}
//获取表中的内容
//获取表中有多少行有数据
int rowCount = sheet.getPhysicalNumberOfRows();
for (int rowNum = 1; rowNum < rowCount; rowNum++) {
Row rowData = sheet.getRow(rowNum);
if (rowData!=null){//如果行不为空
//读取列
int cellCount=rowTitle.getPhysicalNumberOfCells();
for (int cellNum = 0; cellNum < cellCount; cellNum++) {
Cell cell = rowData.getCell(cellNum);
if (cell!=null){
//判断单元格类型
int cellType = cell.getCellType();
String cellValue="";
switch (cellType){
case HSSFCell.CELL_TYPE_STRING://字符串
cellValue=String.valueOf(cell.getStringCellValue());
break;
case HSSFCell.CELL_TYPE_BOOLEAN://布尔
cellValue = String.valueOf(cell.getBooleanCellValue());
break;
case HSSFCell.CELL_TYPE_BLANK://空
break;
case HSSFCell.CELL_TYPE_NUMERIC://数字(日期、普通数字)
if (HSSFDateUtil.isCellDateFormatted(cell)) {//日期
Date date = cell.getDateCellValue();
cellValue = new DateTime(date).toString("yyyy-MM-dd");
} else {// 不是日期格式,则防止当数字过长时以科学计数法显示
cell.setCellType(HSSFCell.CELL_TYPE_STRING);//转换为字符串输出
cellValue = cell.toString();
}
break;
case Cell.CELL_TYPE_ERROR:
System.out.print("【数据类型错误】");
break;
}
System.out.println(cellValue);
}
}
}
}
is.close();
}
3.4 计算公式
@Test
public void testFormula() throws Exception{
InputStream is = new FileInputStream(path + "计算公式.xls");
Workbook workbook = new HSSFWorkbook(is);
Sheet sheet = workbook.getSheetAt(0);
//读取第五行第一列
Row row = sheet.getRow(4);
Cell cell = row.getCell(0);
//公式计算器
FormulaEvaluator fFormulaEvaluator = new HSSFFormulaEvaluator((HSSFWorkbook) workbook);
//输出单元格内容
int cellType = cell.getCellType();
switch (cellType) {
case Cell.CELL_TYPE_FORMULA://2
//得到公式
String formula = cell.getCellFormula();
System.out.println(formula);
//计算
CellValue evaluate = fFormulaEvaluator.evaluate(cell);
String cellValue = evaluate.formatAsString();
System.out.println(cellValue);
break;
}
}
运行结果:
4、easyExcel
4.1 简介
EasyExcel是阿里巴巴开源的一个excel处理框架,以使用简单,节约内存著称。它能大量减少占用内存的主要原因是在解析Excel时没有将文件数据一次性全部加载到内存中,而是从一个磁盘上一行行读取数据,逐个解析。
官方文档:EasyExcel · 语雀
4.2 导入依赖
注意:easyExcel依赖中包含POI相关依赖,有可能发生冲突,所以注释掉。
<!--导入依赖-->
<dependencies>
<!--fastjson-->
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>fastjson</artifactId>
<version >1.2.62</version>
</dependency>
<!--easyexcel-->
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>easyexcel</artifactId>
<version >2.2.0-beta2</version>
</dependency>
<!--lombok-->
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
<version >1.18.12</version>
</dependency>
<!--<!–xLs(03)–>
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi</artifactId>
<version>3.9</version>
</dependency>
<!–xLsx(07)–>
<dependency>
<groupId>org.apache.poi</groupId>
<artifactId>poi-ooxml</artifactId>
<version>3.9</version>
</dependency>-->
<!--日期格式化工具-->
<dependency>
<groupId>joda-time</groupId>
<artifactId>joda-time</artifactId>
<version>2.10.1</version>
</dependency>
<!--test-->
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.12</version>
</dependency>
</dependencies>
4.3 easyExcel读写操作
(1)写入操作
创建实体类DemoData:
@Data
public class DemoData {
@ExcelProperty("字符串标题")
private String string;
@ExcelProperty("日期标题")
private Date date;
@ExcelProperty("数字标题")
private Double doubleData;
/**
* 忽略这个字段
*/
@ExcelIgnore
private String ignore;
}
具体操作:
public class EasyExcelTest {
String path="H:\\kuang-poi\\";
private List<DemoData> data() {
List<DemoData> list = new ArrayList<DemoData>();
for (int i = 0; i < 10; i++) {
DemoData data = new DemoData();
data.setString("字符串" + i);
data.setDate(new Date());
data.setDoubleData(0.56);
list.add(data);
}
return list;
}
// 最简单的写
@Test
public void simpleWrite() {
// 写法1
String fileName = path+"EasyExcel.xlsx";
// 这里 需要指定写用哪个class去写,然后写到第一个sheet,名字为模板 然后文件流会自动关闭
// 如果这里想使用03 则 传入excelType参数即可
EasyExcel.write(fileName, DemoData.class).sheet("模板").doWrite(data());
}
}
(3)读取操作
创建实体类DemoDataListener:【监听器】
// 有个很重要的点 DemoDataListener 不能被spring管理,要每次读取excel都要new,然后里面用到spring可以构造方法传进去
public class DemoDataListener extends AnalysisEventListener<DemoData> {
private static final Logger LOGGER = LoggerFactory.getLogger(DemoDataListener.class);
/**
* 每隔5条存储数据库,实际使用中可以3000条,然后清理list ,方便内存回收
*/
private static final int BATCH_COUNT = 5;
List<DemoData> list = new ArrayList<DemoData>();
/**
* 假设这个是一个DAO,当然有业务逻辑这个也可以是一个service。当然如果不用存储这个对象没用。
*/
private DemoDAO demoDAO;
public DemoDataListener() {
// 这里是demo,所以随便new一个。实际使用如果到了spring,请使用下面的有参构造函数
demoDAO = new DemoDAO();
}
/**
* 如果使用了spring,请使用这个构造方法。每次创建Listener的时候需要把spring管理的类传进来
*
* @param demoDAO
*/
public DemoDataListener(DemoDAO demoDAO) {
this.demoDAO = demoDAO;
}
/**
* 这个每一条数据解析都会来调用
*
* @param data
* one row value. Is is same as {@link AnalysisContext#readRowHolder()}
* @param context
*/
@Override
public void invoke(DemoData data, AnalysisContext context) {
System.out.println(JSON.toJSONString(data));
list.add(data);
System.out.println(list);
// 达到BATCH_COUNT了,需要去存储一次数据库,防止数据几万条数据在内存,容易OOM
if (list.size() >= BATCH_COUNT) {
saveData();
// 存储完成清理 list
list.clear();
}
}
/**
* 所有数据解析完成了 都会来调用
*
* @param context
*/
@Override
public void doAfterAllAnalysed(AnalysisContext context) {
// 这里也要保存数据,确保最后遗留的数据也存储到数据库
saveData();
LOGGER.info("所有数据解析完成!");
}
/**
* 加上存储数据库
*/
private void saveData() {
demoDAO.save(list);
}
}
具体操作:
<1>持久层DemoDAO:
/**
* 假设这个是你的DAO存储。当然还要这个类让spring管理,当然你不用需要存储,也不需要这个类。
**/
public class DemoDAO {
public void save(List<DemoData> list) {
// 如果是mybatis,尽量别直接调用多次insert,自己写一个mapper里面新增一个方法batchInsert,所有数据一次性插入
}
}
<2>测试:
// 最简单的读
@Test
public void simpleRead() {
String fileName = path+"EasyExcel.xlsx";
// 这里 需要指定读用哪个class去读,然后读取第一个sheet 文件流会自动关闭
EasyExcel.read(fileName, DemoData.class, new DemoDataListener()).sheet().doRead();
}
运行结果如下: