分片实现的场景
当在for循环中,对数据库进行操作的时候,每一次循环都会与数据库建立连接,对数据库造成了很大的压力。
这个时候可以使用sql拼接的方式,但是我们在sql拼接的时候,如果拼接的字符串过长,数据库仍然会报错, 这个时候,我们需要根据实际情景,去设置一个list的分片大小。
1.对List分片,实现sql拼接,减少对数据库的查询次数。
集合过大,单词处理sql拼接字符串过长,对数据库会造成很大压力,甚至报错。
比如 Oracle数据库中IN参数个数不能超过1000 。
首先,通过List对实现sql拼接的mapper层代码:
如果大家想看trim以及foreach的使用,
可以参考我另外一篇博文:
mybatis中trim,foreach等标签以及prefixOverrides、suffixOverrides等属性的意义以及使用
SELECT * FROM USER
<trim prefix="where" prefixOverrides="OR">
<foreach collection="timingMapList" item="i" index="index">
OR (R.DATETIME BETWEEN #{i.beforeDate} AND #{i.endDate})
</foreach>
</trim>
上面拼接的结果是:
SELECT * FROM USER
WHERE
(R.DATETIME BETWEEN '2021-11-18 10:00:00' AND '2021-11-19 10:00:00')
OR
(R.DATETIME BETWEEN '2021-11-18 10:00:00' AND '2021-11-19 10:00:00')
....
2.List分片
直接看代码:
List<T> timingMapList = new ArrayList<>();
timingMapList.add(...);
timingMapList.add(...);
//每20条数据分成一片,不足20的最后也分成一片。
List<List<T>> timingMapSplitList = splitList(timingMapList, 20);
public static <T> List<List<T>> splitList(List<T> list, int length){
if (list.isEmpty() || list == null || length < 1) {
return Collections.emptyList();
}
List<List<T>> result = new ArrayList<List<T>>();
int size = list.size();
//num为你将要分成多少片
int num = (size + length -1) / length;
System.out.println("每片大小为 " + length + ";共分为 " + count +" 片");
for (int i = 0; i < num; i++) {
List<T> subList = list.subList(i*length, (i+1)*length > size ?
size : (i+1)*length);
result.add(subList);
}
return result;
}
以上两步操作既可以显示:sql分片查询
。