list集合中数据量太多可进行分组批量插入数据库,防止数据库内存一次占用太多导致崩溃,
或者往mq发消息,控制一次性发的数量
List<Abc> list = new ArrayList();
list.add(...);
Integer maxNumber = 5
Integer count = (list.size + maxNumber -1)/maxNumber
List<list<Abc>> mgList = new ArrayList<>();
Stream.iterate(0,n -> n+1).limit(count).forEach(i ->{
mgList.add(list.stream().skip(i*(long)maxNumber).limit((long)maxNumber).collect(Collectors.toList()));
})
system.out.println(JSON.toJSON(mgList));
这样list就被分成了count组,每组最大有maxNumber条数据
本文探讨了在处理大量数据时如何使用分组批量插入数据库以避免内存溢出,同时提出了利用消息队列控制数据发送数量的方法,确保系统稳定运行。通过示例展示了如何将数据切分为多个小批次,实现高效的数据操作。
481

被折叠的 条评论
为什么被折叠?



