利用多线程批量拆分 List 导入数据库

最新推荐文章于 2024-04-14 14:46:41 发布
最新推荐文章于 2024-04-14 14:46:41 发布
阅读量236 收藏 1
点赞数
文章标签： java
原文链接：https://mp.weixin.qq.com/s/N3GDhtwuwj5s_a3UlefEMA
版权

一、前言

前两天做了一个导入的功能，导入开始的时候非常慢，导入2w条数据要1分多钟，后来一点一点的优化，从直接把list怼进Mysql中，到分配把list导入Mysql中，到多线程把list导入Mysql中。

时间是一点一点的变少了。非常的爽，最后变成了10s以内。

下面就展示一下过程。

二、直接把list怼进Mysql

使用mybatis的批量导入操作：

@Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew2(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List<StudentEntity> studentEntityList = new LinkedList<>();  
    List<EnrollStudentEntity> enrollStudentEntityList = new LinkedList<>();  
    List<AllusersEntity> allusersEntityList = new LinkedList<>();  
  
    for (FreshStudentAndStudentModel freshStudentAndStudentModel : list) {  
  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密码设置为考生号  
        allusersEntityList.add(allusersEntity);  
    }  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList);  
        stuResult = studentDao.insertAll(studentEntityList);  
        allResult = allusersFacade.insertUserList(allusersEntityList);  
  
    if (enResult > 0 && stuResult > 0 && allResult) {  
        return 10;  
    }  
    return -10;  
}

Mapper.xml

<insert id="insertAll" parameterType="com.dmsdbj.itoo.basicInfo.entity.EnrollStudentEntity">  
    insert into tb_enroll_student  
    <trim prefix="(" suffix=")" suffixOverrides=",">  
            id,    
            remark,    
            nEMT_aspiration,    
            nEMT_code,    
            nEMT_score,    
            student_id,    
            identity_card_id,    
            level,    
            major,    
            name,    
            nation,    
            secondary_college,    
            operator,    
            sex,    
            is_delete,    
            account_address,    
            native_place,    
            original_place,    
            used_name,    
            pictrue,    
            join_party_date,    
            political_status,    
            tel_num,    
            is_registry,    
            graduate_school,    
            create_time,    
            update_time        </trim>          
    values  
    <foreach collection="list" item="item" index="index" separator=",">  
    (  
            #{item.id,jdbcType=VARCHAR},  
            #{item.remark,jdbcType=VARCHAR},  
            #{item.nemtAspiration,jdbcType=VARCHAR},  
            #{item.nemtCode,jdbcType=VARCHAR},  
            #{item.nemtScore,jdbcType=VARCHAR},  
            #{item.studentId,jdbcType=VARCHAR},  
            #{item.identityCardId,jdbcType=VARCHAR},  
            #{item.level,jdbcType=VARCHAR},  
            #{item.major,jdbcType=VARCHAR},  
            #{item.name,jdbcType=VARCHAR},  
            #{item.nation,jdbcType=VARCHAR},  
            #{item.secondaryCollege,jdbcType=VARCHAR},  
            #{item.operator,jdbcType=VARCHAR},  
            #{item.sex,jdbcType=VARCHAR},  
            0,  
            #{item.accountAddress,jdbcType=VARCHAR},  
            #{item.nativePlace,jdbcType=VARCHAR},  
            #{item.originalPlace,jdbcType=VARCHAR},  
            #{item.usedName,jdbcType=VARCHAR},  
            #{item.pictrue,jdbcType=VARCHAR},  
            #{item.joinPartyDate,jdbcType=VARCHAR},  
            #{item.politicalStatus,jdbcType=VARCHAR},  
            #{item.telNum,jdbcType=VARCHAR},  
            #{item.isRegistry,jdbcType=TINYINT},  
            #{item.graduateSchool,jdbcType=VARCHAR},  
            now(),  
            now()          
    )     
    </foreach>                  
</insert>   

代码说明：

底层的mapper是通过逆向工程来生成的，批量插入如下，是拼接成类似：insert into tb_enroll_student（）values （），（）…….（）;

这样的缺点是，数据库一般有一个默认的设置，就是每次sql操作的数据不能超过4M。这样插入，数据多的时候，数据库会报错Packet for query is too large (6071393 > 4194304). You can change this value on the server by setting the max_allowed_packet' variable.，虽然我们可以通过

类似 修改 my.ini 加上 max_allowed_packet =67108864，67108864=64M，默认大小4194304 也就是4M

修改完成之后要重启mysql服务，如果通过命令行修改就不用重启mysql服务。

完成本次操作，但是我们不能保证项目单次最大的大小是多少，这样是有弊端的。所以可以考虑进行分组导入。

三、分组把list导入Mysql中

同样适用mybatis批量插入，区别是对每次的导入进行分组计算，然后分多次进行导入：

@Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew2(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List<StudentEntity> studentEntityList = new LinkedList<>();  
    List<EnrollStudentEntity> enrollStudentEntityList = new LinkedList<>();  
    List<AllusersEntity> allusersEntityList = new LinkedList<>();  
  
    for (FreshStudentAndStudentModel freshStudentAndStudentModel : list) {  
  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密码设置为考生号  
        allusersEntityList.add(allusersEntity);  
    }  
  
    int c = 100;  
    int b = enrollStudentEntityList.size() / c;  
    int d = enrollStudentEntityList.size() % c;  
  
    int enResult = 0;  
    int stuResult = 0;  
    boolean allResult = false;  
  
    for (int e = c; e <= c * b; e = e + c) {  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(e - c, e));  
        stuResult = studentDao.insertAll(studentEntityList.subList(e - c, e));  
        allResult = allusersFacade.insertUserList(allusersEntityList.subList(e - c, e));  
    }  
    if (d != 0) {  
        enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(c * b, enrollStudentEntityList.size()));  
        stuResult = studentDao.insertAll(studentEntityList.subList(c * b, studentEntityList.size()));  
        allResult = allusersFacade.insertUserList(allusersEntityList.subList(c * b, allusersEntityList.size()));  
    }  
  
    if (enResult > 0 && stuResult > 0 && allResult) {  
        return 10;  
    }  
    return -10;  
}  

代码说明：

这样操作，可以避免上面的错误，但是分多次插入，无形中就增加了操作实践，很容易超时。所以这种方法还是不值得提倡的。

再次改进，使用多线程分批导入。

四、多线程分批导入Mysql

依然使用mybatis的批量导入，不同的是，根据线程数目进行分组，然后再建立多线程池，进行导入。

@Transactional(rollbackFor = Exception.class)  
public int addFreshStudentsNew(List<FreshStudentAndStudentModel> list, String schoolNo) {  
    if (list == null || list.isEmpty()) {  
        return 0;  
    }  
    List<StudentEntity> studentEntityList = new LinkedList<>();  
    List<EnrollStudentEntity> enrollStudentEntityList = new LinkedList<>();  
    List<AllusersEntity> allusersEntityList = new LinkedList<>();  
  
    list.forEach(freshStudentAndStudentModel -> {  
        EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();  
        StudentEntity studentEntity = new StudentEntity();  
        BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);  
        BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);  
        String operator = TenancyContext.UserID.get();  
        String studentId = BaseUuidUtils.base58Uuid();  
        enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());  
        enrollStudentEntity.setStudentId(studentId);  
        enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        enrollStudentEntity.setOperator(operator);  
        studentEntity.setId(studentId);  
        studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());  
        studentEntity.setOperator(operator);  
        studentEntityList.add(studentEntity);  
        enrollStudentEntityList.add(enrollStudentEntity);  
  
        AllusersEntity allusersEntity = new AllusersEntity();  
        allusersEntity.setId(enrollStudentEntity.getId());  
        allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());  
        allusersEntity.setUserName(enrollStudentEntity.getName());  
        allusersEntity.setSchoolNo(schoolNo);  
        allusersEntity.setTelNum(enrollStudentEntity.getTelNum());  
        allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密码设置为考生号  
        allusersEntityList.add(allusersEntity);  
    });  
  
  
    int nThreads = 50;  
  
    int size = enrollStudentEntityList.size();  
    ExecutorService executorService = Executors.newFixedThreadPool(nThreads);  
    List<Future<Integer>> futures = new ArrayList<Future<Integer>>(nThreads);  
  
    for (int i = 0; i < nThreads; i++) {  
        final List<EnrollStudentEntity> EnrollStudentEntityImputList = enrollStudentEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
        final List<StudentEntity> studentEntityImportList = studentEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
        final List<AllusersEntity> allusersEntityImportList = allusersEntityList.subList(size / nThreads * i, size / nThreads * (i + 1));  
  
       Callable<Integer> task1 = () -> {  
      studentSave.saveStudent(EnrollStudentEntityImputList,studentEntityImportList,allusersEntityImportList);  
           return 1;  
        };  
      futures.add(executorService.submit(task1));  
    }  
    executorService.shutdown();  
    if (!futures.isEmpty() && futures != null) {  
        return 10;  
    }  
    return -10;  
}  

代码说明：

上面是通过应用ExecutorService 建立了固定的线程数，然后根据线程数目进行分组，批量依次导入。一方面可以缓解数据库的压力，另一个面线程数目多了，一定程度会提高程序运行的时间。

缺点就是要看服务器的配置，如果配置好的话就可以开多点线程，配置差的话就开小点。

五、小结

通过使用这个操作真是不断的提高了，项目使用技巧也是不错。

加油~~ 多线程哦~~

竹林幽深
关注
python多线程插入1万条数据
congge
11-30 1万+
前言 在业务中，经常碰到需要从外部批量读取数据然后导入到mysql等数据库的操作，通常情况下，我们使用一个insert语句就可以完成，但在数据量为上万甚至百万的时候，这样做是不是太耗时了呢？ 下面我们先来看一个简单的案例，在数据库中我们提前建立了一个表，将通过程序导入10000条数据到这张表， 方式1：单线程insert # -*- coding:utf-8 -*- import time fr...
多线程分段读取数据库
zizi2008han的专栏
10-24 2452
有这样一个需求，多个线程
多线程批量拆分 List 导入数据库！
IT技术精选文摘
05-15 142
若有收获,请记得分享和转发哦一、前言前两天做了一个导入的功能，导入开始的时候非常慢，导入2w条数据要1分多钟，后来一点一点的优化，从直接把list怼进Mysql中，到分配把list导入Mysql中，到多线程把list导入Mysql中。时间是一点一点的变少了。非常的爽，最后变成了10s以内。下面就展示一下过程。二、直接把list怼进Mysql使用mybatis的批量导入操作...
给你 2 万条数据，怎么快速导入到 MySQL？写得太好了！
欢迎关注公众号：【码农突围】，回复9999，可以获取一份LeetCode刷题笔记
03-31 391
点击上方“码农突围”，马上关注这里是码农充电第一站，回复“666”，获取一份专属大礼包 真爱，请设置“星标”或点个“在看”来源：blog.csdn.net/kisscatforever/article/details/79817039一、前言二、直接把list怼进Mysql三、分组把list导入Mysql中四、多线程分批导入Mysql五、小结图片一、前言前两天做了一个导入...
利用多线程批量拆分 List 导入数据库，效率杠杠的！
方志朋的博客
05-07 204
欢迎关注方志朋的博客，回复”666“获面试宝典一、前言前两天做了一个导入的功能，导入开始的时候非常慢，导入2w条数据要1分多钟，后来一点一点的优化，从直接把list怼进Mysql中，到分配把list导入Mysql中，到多线程把list导入Mysql中。时间是一点一点的变少了。非常的爽，最后变成了10s以内。下面就展示一下过程。二、直接把list怼进Mysql使用mybat...
【106期】面试官问：Java 多线程如何实现批量拆分 List 导入数据库？
最新发布
ghfgjfg679的博客
04-14 723
Java面试核心知识点一共有30个专题，足够读者朋友们应付面试啦，也节省朋友们去到处搜刮资料自己整理的时间！Java面试核心知识点网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Java）一个人可以走的很快，但一群人才能走的更远！
Springboot多线程异步批量添加/导入大数据到数据库
Just1like_this的博客
02-26 6471
启动类添加 @EnableAsync 注解 开启线程池（多线程） 新增异步添加接口 package com.chalk.service; import com.chalk.model.Student; import com.chalk.model.Teacher; import com.chalk.model.UserDeviceRel; import java.util.List; /** * 异步服务接口 * * @author gluoh * @since 2020-12-..
python3多线程写入mysql_Python3 多线程(连接池)操作MySQL插入数据
weixin_31094177的博客
02-11 814
1.主要模块DBUtils : 允许在多线程应用和数据库之间连接的模块套件Threading : 提供多线程功能2.创建连接池PooledDB 基本参数：mincached : 最少的空闲连接数，如果空闲连接数小于这个数，Pool自动创建新连接;maxcached : 最大的空闲连接数，如果空闲连接数大于这个数，Pool则关闭空闲连接;maxconnections : 最大的连接数;blockin...
java向mysql数据库批量插入大量数据
热门推荐
m0_67698950的博客
03-31 1万+
首先看下我们的目标：向mysql数据库中批量插入10000条数据 操作环境：Mysql和Java代码都运行在我本地Windows电脑(i7处理器，4核，16G运行内存，64位操作系统 1、JPA单线程执行 代码省略，大概需要39S左右 2、JPA多线程执行 大概需要37S左右，并没有想象中的快很多 原因： 多线程只是大大提高了程序处理数据的时间，并不会提高插入数据库的时间，相反在我这边JPA的框架下，多线程也就意味着多连接，反而更加消耗数据库性能 package com.exampl...
Java多线程批量拆分List导入数据库
haiertadiedie的博客
09-07 249
一、前言 前两天做了一个导入的功能，导入开始的时候非常慢，导入2w条数据要1分多钟，后来一点一点的优化，从直接把list怼进Mysql中，到分配把list导入Mysql中，到多线程把list导入Mysql中。时间是一点一点的变少了。非常的爽，最后变成了10s以内。下面就展示一下过程。 二、直接把list怼进Mysql 使用mybatis的批量导入操作： @Transactional(rollbackFor=Exception.class) publicintaddFreshSt...
List集合分批次插入数据库
weixin_45230497的博客
02-28 503
【代码】List集合分批次插入数据库。
利用多线程批量拆分 List 导入数据库数据
yuechuzhixing的博客
05-07 500
一、前言 前两天做了一个导入的功能，导入开始的时候非常慢，导入2w条数据要1分多钟，后来一点一点的优化，从直接把list怼进Mysql中，到分配把list导入Mysql中，到多线程把list导入Mysql中。 时间是一点一点的变少了。非常的爽，最后变成了10s以内。 下面就展示一下过程。 二、直接把list怼进Mysql 使用mybatis的批量导入操作： @Transactional(rollbackFor=Exception.class) publicintaddFresh...
Java使用多线程异步执行批量更新操作
Python研究所
01-13 1498
此文转载自：https://blog.csdn.net/qq_43097201/article/details/112452391#commentBox 写在前面： 相信不少开发者在遇到项目对数据进行批量操作的时候，都会有不少的烦恼，尤其是针对数据量极大的情况下，效率问题就直接提上了菜板。因此，开多线程来执行批量任务是十分重要的一种批量操作思路，其实这种思路实现起来也十分简单，...
多线程-多个子线程执行结果插入List集合
qq_22533661的博客
06-22 2715
多个子线程执行结果插入List集合 1.错误示例（多个线程同时操作同一个List对象，List是线程不安全） import com.alibaba.fastjson.JSONObject; import java.util.*; import java.util.concurrent.CountDownLatch; public class Main { public static void main(String[] args) throws InterruptedExceptio..
java多线程批量插入实战
CabbageDevil成狂成魔之路
06-21 3099
java多线程批量插入 多线程批量插入实战
多线程和List分段解决批量添加或更新慢的问题
Xiaoxin_Java的博客
11-10 1096
运用多线程加List分段处理多数据的批量操作的简单方式
数据库多线程批量导入es
06-09
您可以使用多线程将数据从数据库批量导入 Elasticsearch。 以下是一个示例代码： ``` // 创建 Elasticsearch 客户端 RestHighLevelClient client = new RestHighLevelClient( RestClient.builder( new HttpHost...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值