在我们操作批量插入的时候,最直接的就是传入list进行批量插入(拼接sql),那么以这种方式进行批量操作,如果在数据量特别大的情况下,拼接的sql 的packet数据包大小是非常大的,也是很难预估的。
批量插入可以参考上篇文章:(https://blog.csdn.net/qq_35387940/article/details/100007472)
那么下面,提供一种简单的分批处理,也就是把我们需要批量插入的list数据,假设是1万条数据, 我们分开500条一次批量插入:
List<AgentRechargeOrder> list=mapper.getList(XXXX); //从数据库查询出来的list,也就是需要进行批量插入的总list
//一次插入的条数,也就是分批的list大小
int pointsDataLimit = 500;
int listSize=list.size();
int maxSize=listSize - 1;
List<AgentRechargeOrder> newList = new ArrayList<AgentRechargeOrder>();//新建一个载体list
for (int i = 0; i < listSize; i++) {
//分批次处理
newList.add(list.get(i));//循环将数据填入载体list
if (pointsDataLimit == newList.size() || i == maxSize) { //载体list达到要求,进行批量操作
//调用批量插入
mapper.insertList(newList);
newList.clear();//每次批量操作后,清空载体list,等待下次的数据填入
}
}
可以根据总数据量的大小,调整分批的list的size:
int pointsDataLimit = 500;
示例:
下面是当总数据list为1293条时的运行日志,可以看到500条数据一次,分了两批次,最后剩余的293条数据单独一次: