提高mysql插入速度的方法

导读

作者:杨漆
16年关系型数据库管理,从oracle 9i 、10g、11g、12c到Mysql5.5、5.6、5.7、8.0 到TiDB获得3个OCP、2个OCM;运维路上不平坦,跌过不少坑、熬过许多夜。把工作笔记整理出来分享给大伙儿,希望帮到大家少走弯路、少熬夜。

干货:

一般情况下mysql在百万级数据时读取、插入、更新速度较快,客户体验良好,但到了两千万级以上就会出现很慢

解决案例:将MySQL插入速度从2000条/分钟 提高到 12000条/秒。

核心思想:

1、尽量使数据库一次性写入Data File

2、减少数据库的checkpoint次数

3、程序上尽量缓冲数据,进行批量式插入与提交

4、减少系统的IO冲突

  1. innodb_flush_log_at_trx_commit 配置设定为0 (插入速度会有很大提高,但Sever断电时有丢失数据风险)

  2. innodb_autoextend_increment 从8M修改为256M (减少tablespace自动扩展次数,避免频繁自动扩展Data File导致 MySQL 的checkpoint 操作)

  3. innodb_log_buffer_size 从8M修改为16M (根据1秒钟内的事务量情况 适度增大,太大会浪费,因为每1秒钟总会flush一次)

  4. innodb_log_file_size 从8M修改为256M (根据服务器内存大小与具体情况设置适合自己环境的值)

  5. innodb_log_f

  • 2
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
MySQL批量插入方法是一种在特定场景下使用的优化技术,相较于单次循环插入,具有较大的优势和应用价值。在MySQL中,批量插入可以有效地提高数据插入速度和性能。根据引用和引用的描述,MySQL批量插入方法适用于以下场景: 1. 当需要一次性插入大量数据时,如导入Excel数据或处理大数据集。 2. 当需要提高插入性能和效率时,以减少数据库操作次数。 在实现过程中,可以按照以下步骤进行: 1. 在Controller层获取待导入的数据,并将其传递给后端处理。 2. 在mapper.xml文件中编写相应的SQL语句,用于批量插入数据。可以使用MySQL提供的批量插入函数,如`saveBatch()`,或者使用循环开启批处理模式。 3. 执行批量插入操作,将数据一次性插入数据库。 通过对常用的插入大数据的方式进行测试,可以得出比较实用的方案。根据引用的描述,常见的插入大数据的方式包括:for循环单条插入、拼接SQL语句、批量插入saveBatch()函数、循环开启批处理模式。根据实际需求和性能测试的结果,选择最适合的批量插入方式。 总结起来,MySQL批量插入方法是一种在特定场景下提高数据插入性能和效率的优化技术,可以根据具体需求选择合适的批量插入方式来实现。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [MySQL批量插入(使用mybatis实现mysql数据库的批量插入操作)](https://blog.csdn.net/qq_43403676/article/details/124406698)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [MySQL优化:批量插入大数据4种实用、讲究方案的测试](https://blog.csdn.net/a18505947362/article/details/123667215)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值