数据库调优

针对Kafka大量数据实时插入MySQL导致的实时性和磁盘IO问题,解决方案包括使用批量插入语句,调整自动提交模式,考虑在操作期间关闭索引,以及优化InnoDB存储引擎的参数如innodb_buffer_pool_size和innodb_io_capacity来改善磁盘I/O性能。
摘要由CSDN通过智能技术生成

频繁插入数据

场景:Kafka的数据插入到MySQL中,Kafka的作用知识作为缓冲,要求实时更新到数据库中。
描述:Kafka的数据量巨大,每次拉取几百条数据,在进行过滤筛选处理之后,再插入到数据库,而插入到数据库也是比较耗时的过程,长此以往,实时性得不到保证。而且,磁盘IO也会很高。
问题

  1. MySQL进行大批量insert调优
  2. MySQL解决磁盘高IO问题

解决方案

  1. insert语句values后加多条语句,进行数据库批量插入
    多条insert语句的执行是顺序执行的,太多的insert语句会造成延迟。
    将自动提交,改为手动提交,因为它会在每次插入时对磁盘进行日志更新
  2. 索引对数据库的影响
    表的记录越多,索引对insert的性能越大,可以适时地关闭索引,再进行批量操作。
  3. 解决磁盘IO问题
    可以通过以下几个参数:
    innodb_buffer_pool_size
    innodb_io_capacity
    innodb_change_buffering
    磁盘优化:https://dev.mysql.com/doc/refman/8.0/en/optimizing-innodb-diskio.html
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值