当MySQL单表记录数过大时,数据库的CRUD性能会明显下降,这篇来总结下原因和一些常见的优化措施。
1. 数据库瓶颈
不管是IO瓶颈,还是CPU瓶颈,最终都会导致数据库的活跃连接数增加,进而逼近甚至达到数据库可承载活跃连接数的阈值。
在业务Service来看就是,可用数据库连接少甚至无连接可用。
1.1 IO瓶颈
磁盘读IO瓶颈,热点数据太多,数据库缓存放不下,每次查询时会产生大量的IO,降低查询速度 -> 分库和垂直分表。
网络IO瓶颈,请求的数据太多,网络带宽不够 -> 分库。
1.2 CPU瓶颈
SQL问题,如SQL中包含join,group by,order by,非索引字段条件查询等,增加CPU运算的操作 -> SQL优化,建立合适的索引,在业务Service层进行业务计算。
单表数据量太大,查询时扫描的行太多,SQL效率低,CPU率先出现瓶颈 -> 水平分表。
2 解决方案
2.1 限定数据查询范围
禁止不带任何限制范围条件的查询语句。比如:当查询历史订单的时候,可以控制在一个月范围内;
2.2 读/写分离
经典的数据库拆分方案,主库负责写,从库负责读;
主从复制是指一台服务器充当主数据库服务器,另一台或多台服务器充当从数据库服务器,主服务器中的数据自动复制到从服务器之中。通过这种手段可以做到读写分离,主库写数据,从库读数据,从而提高数据库的可用性。MySQL 主从复制涉及到三个线程,一个运行在主节点(log dump thread),其余两个(I/O thread, SQL thread)运行在从节点。
主节点 binary log dump 线程:
当从节点连接主节点时,主节点会创建一个 logdump 线程,用于发送 binlog 的内容。在读取 binlog 中的操作时,此线程会对主节点上的 binlog 加锁,当读取完成,锁会被释放。
从节点I/O线程:
用于从库将主库的 binlog复制到本地的 relay log中,首先,从库会先启动一个工作线程,称为IO工作线程,负责和主库建立一个普通的客户端连接。如果该进程追赶上了主库,它将进入睡眠状态,直到主库有新的事件产生通知它,他才会被唤醒,将接收到的事件记录到 relay log(中继日志)中。
从节点 SQL 线程:
SQL 线程负责读取 relay