【106期】面试官问:Java 多线程如何实现批量拆分 List 导入数据库

#{item.nativePlace,jdbcType=VARCHAR},

#{item.originalPlace,jdbcType=VARCHAR},

#{item.usedName,jdbcType=VARCHAR},

#{item.pictrue,jdbcType=VARCHAR},

#{item.joinPartyDate,jdbcType=VARCHAR},

#{item.politicalStatus,jdbcType=VARCHAR},

#{item.telNum,jdbcType=VARCHAR},

#{item.isRegistry,jdbcType=TINYINT},

#{item.graduateSchool,jdbcType=VARCHAR},

now(),

now()

)

                  

代码说明:

底层的mapper是通过逆向工程来生成的,批量插入如下,是拼接成类似:insert into tb_enroll_student()values (),()…….();

这样的缺点是,数据库一般有一个默认的设置,就是每次sql操作的数据不能超过4M。这样插入,数据多的时候,数据库会报错Packet for query is too large (6071393 > 4194304). You can change this value on the server by setting the max_allowed_packet' variable.,虽然我们可以通过

类似 修改 my.ini 加上 max_allowed_packet =6710886467108864=64M,默认大小4194304 也就是4M

修改完成之后要重启mysql服务,如果通过命令行修改就不用重启mysql服务。

完成本次操作,但是我们不能保证项目单次最大的大小是多少,这样是有弊端的。所以可以考虑进行分组导入。

三、分组把list导入Mysql中

同样适用mybatis批量插入,区别是对每次的导入进行分组计算,然后分多次进行导入:

@Transactional(rollbackFor = Exception.class)

public int addFreshStudentsNew2(List list, String schoolNo) {

if (list == null || list.isEmpty()) {

return 0;

}

List studentEntityList = new LinkedList<>();

List enrollStudentEntityList = new LinkedList<>();

List allusersEntityList = new LinkedList<>();

for (FreshStudentAndStudentModel freshStudentAndStudentModel : list) {

EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();

StudentEntity studentEntity = new StudentEntity();

BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);

BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);

String operator = TenancyContext.UserID.get();

String studentId = BaseUuidUtils.base58Uuid();

enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());

enrollStudentEntity.setStudentId(studentId);

enrollStudentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());

enrollStudentEntity.setOperator(operator);

studentEntity.setId(studentId);

studentEntity.setIdentityCardId(freshStudentAndStudentModel.getIdCard());

studentEntity.setOperator(operator);

studentEntityList.add(studentEntity);

enrollStudentEntityList.add(enrollStudentEntity);

AllusersEntity allusersEntity = new AllusersEntity();

allusersEntity.setId(enrollStudentEntity.getId());

allusersEntity.setUserCode(enrollStudentEntity.getNemtCode());

allusersEntity.setUserName(enrollStudentEntity.getName());

allusersEntity.setSchoolNo(schoolNo);

allusersEntity.setTelNum(enrollStudentEntity.getTelNum());

allusersEntity.setPassword(enrollStudentEntity.getNemtCode());  //密码设置为考生号

allusersEntityList.add(allusersEntity);

}

int c = 100;

int b = enrollStudentEntityList.size() / c;

int d = enrollStudentEntityList.size() % c;

int enResult = 0;

int stuResult = 0;

boolean allResult = false;

for (int e = c; e <= c * b; e = e + c) {

enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(e - c, e));

stuResult = studentDao.insertAll(studentEntityList.subList(e - c, e));

allResult = allusersFacade.insertUserList(allusersEntityList.subList(e - c, e));

}

if (d != 0) {

enResult = enrollStudentDao.insertAll(enrollStudentEntityList.subList(c * b, enrollStudentEntityList.size()));

stuResult = studentDao.insertAll(studentEntityList.subList(c * b, studentEntityList.size()));

allResult = allusersFacade.insertUserList(allusersEntityList.subList(c * b, allusersEntityList.size()));

}

if (enResult > 0 && stuResult > 0 && allResult) {

return 10;

}

return -10;

}

代码说明:

这样操作,可以避免上面的错误,但是分多次插入,无形中就增加了操作实践,很容易超时。所以这种方法还是不值得提倡的。

再次改进,使用多线程分批导入。在此推荐一下小程序Java精选面试题,内涵大量初级、中级、高级甚至架构师面试题,支持在线刷题。

四、多线程分批导入Mysql

依然使用mybatis的批量导入,不同的是,根据线程数目进行分组,然后再建立多线程池,进行导入。

@Transactional(rollbackFor = Exception.class)

public int addFreshStudentsNew(List list, String schoolNo) {

if (list == null || list.isEmpty()) {

return 0;

}

List studentEntityList = new LinkedList<>();

List enrollStudentEntityList = new LinkedList<>();

List allusersEntityList = new LinkedList<>();

list.forEach(freshStudentAndStudentModel -> {

EnrollStudentEntity enrollStudentEntity = new EnrollStudentEntity();

StudentEntity studentEntity = new StudentEntity();

BeanUtils.copyProperties(freshStudentAndStudentModel, studentEntity);

BeanUtils.copyProperties(freshStudentAndStudentModel, enrollStudentEntity);

String operator = TenancyContext.UserID.get();

String studentId = BaseUuidUtils.base58Uuid();

enrollStudentEntity.setId(BaseUuidUtils.base58Uuid());

enrollStudentEntity.setStudentId(studentId);

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
img
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Java)
img

总结

蚂蚁面试比较重视基础,所以Java那些基本功一定要扎实。蚂蚁的工作环境还是挺赞的,因为我面的是稳定性保障部门,还有许多单独的小组,什么三年1班,很有青春的感觉。面试官基本水平都比较高,基本都P7以上,除了基础还问了不少架构设计方面的问题,收获还是挺大的。


经历这次面试我还通过一些渠道发现了需要大厂真实面试主要有:蚂蚁金服、拼多多、阿里云、百度、唯品会、携程、丰巢科技、乐信、软通动力、OPPO、银盛支付、中国平安等初,中级,高级Java面试题集合,附带超详细答案,希望能帮助到大家。

蚂蚁金服5面,总结了49个面试题,遇到的面试官都是P7级别以上

一个人可以走的很快,但一群人才能走的更远。如果你从事以下工作或对以下感兴趣,欢迎戳这里加入程序员的圈子,让我们一起学习成长!

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

或对以下感兴趣,欢迎戳这里加入程序员的圈子,让我们一起学习成长!**](https://bbs.csdn.net/forums/4304bb5a486d4c3ab8389e65ecb71ac0)

AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算

  • 4
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值