记录一次Mysql批量插入优化

记录一次Mysql批量插入优化


最近在做一个简单mysql数据库同步系统,就是要把业务库表数据同步到代理库里面,需要自己编写,技术选型使用springboot2.x+jdbcTemplate,在使用batchUpdate的时候,发现批量插入数据量大的时候,就会变得巨慢,比如,我批量插入30W的数据,耗时如下图:

在这里插入图片描述

我的天~居然要165秒,对于一个同步系统,这怎么能忍受的呢?
通过搜索资料得出,原来mysql驱动本身不支持批量插入的,所以,即使使用jdbcTemplate中的batch方法,mysql执行也只会一条一条来,或者也不会批量很多。
那么这时候要怎么优化呢?
其实很简单,只需要在jdbcurl加上一个参数即可,那么这个参数是什么呢?如下:

rewriteBatchedStatements=true

在这里插入图片描述

当我们加上这个参数的时候,再次批量插入30W的数据,我的测试代码如下:
在这里插入图片描述

Run走起,那么这时候的耗时会发生什么变化呢?如下:
在这里插入图片描述

我的天~就加了一个参数,性能就提升了将近27倍,插入性能将近5W/s,太牛批了!
最后,如果也有遇到类似情况的小伙伴们,不妨也加一下这个参数,优化的效果还是不错的,至于对于这个参数的深究,小伙伴们可以自行查阅资料,谢谢大家!

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值