![0bb1b001e7526b89629fd9a9356039b9.png](https://i-blog.csdnimg.cn/blog_migrate/6bbe2b3bce7b2a9da4a6187e17e41e48.jpeg)
一、SQL查询优化(重要)
1.1 获取有性能问题SQL的三种方式
- 通过用户反馈获取存在性能问题的SQL;
- 通过慢查日志获取存在性能问题的SQL;
- 实时获取存在性能问题的SQL;
1.1.2 慢查日志分析工具
相关配置参数:
slow_query_log
常用工具:mysqldumpslow和pt-query-digest
pt
1.1.3 实时获取有性能问题的SQL(推荐)
![bd0deafc1295af67c9be48e34df26eb8.png](https://i-blog.csdnimg.cn/blog_migrate/025432d8c6f8e515758257840ab42d6e.jpeg)
SELECT
查询当前服务器执行超过60s的SQL,可以通过脚本周期性的来执行这条SQL,就能查出有问题的SQL。
1.2 SQL的解析预处理及生成执行计划(重要)
1.2.1 查询过程描述(重点!!!)
![dc9f07366a86062710cd9641f7820965.png](https://i-blog.csdnimg.cn/blog_migrate/51fe63f0469e8958326da57c90016082.jpeg)
通过上图可以清晰的了解到MySql查询执行的大致过程:
- 发送SQL语句。
- 查询缓存,如果命中缓存直接返回结果。
- SQL解析,预处理,再由优化器生成对应的查询执行计划。
- 执行查询,调用存储引擎API获取数据。
- 返回结果。
1.2.2 查询缓存对性能的影响(建议关闭缓存)
第一阶段:
相关配置参数:
query_cache_type
缓存查找是利用对大小写敏感的哈希查找来实现的,Hash查找只能进行全值查找(sql完全一致),如果缓存命中,检查用户权限,如果权限允许,直接返回,查询不被解析,也不会生成查询计划。
在一个读写比较频繁的系统中,建议关闭缓存,因为缓存更新会加锁。将query_cache_type设置为off,query_cache_size设置为0。
1.2.3 第二阶段:MySQL依照执行计划和存储引擎进行交互
这个阶段包括了多个子过程:
![e2c444969c311e662de8c218c9ef7749.png](https://i-blog.csdnimg.cn/blog_migrate/fc9c10e76578b5a83baf087f553d4874.jpeg)
![5f45a89255beffe29f8407a4298ff0a1.png](https://i-blog.csdnimg.cn/blog_migrate/84c655ab3f0b52380cb59e765fd1f142.jpeg)
![2033568ac4a0ef89cd3ae3573b91b26a.png](https://i-blog.csdnimg.cn/blog_migrate/84a930df7bb9a1b446aa3cdcd4c20056.jpeg)
一条查询可以有多种查询方式,查询优化器会对每一种查询方式的(存储引擎)统计信息进行比较,找到成本最低的查询方式,这也就是索引不能太多的原因。
1.3 会造成MySQL生成错误的执行计划的原因
1、统计信息不准确
2、成本估算与实际的执行计划成本不同
![bafd95ac31fbef4c470706000027c4e2.png](https://i-blog.csdnimg.cn/blog_migrate/e76a885ba6a5159af3cf05687d93fb87.jpeg)
3、给出的最优执行计划与估计的不同
![6a5a2b493b25afe85ef8bbcd6511d4d1.png](https://i-blog.csdnimg.cn/blog_migrate/d717fbccb8c7909bf68b8f416b583400.jpeg)
4、MySQL不考虑并发查询
5、会基于固定规则生成执行计划
6、MySQL不考虑不受其控制的成本,如存储过程,用户自定义函数
1.4 MySQL优化器可优化的SQL类型
查询优化器:对查询进行优化并查询mysql认为的成本最低的执行计划。为了生成最优的执行计划,查询优化器会对一些查询进行改写
可以优化的sql类型
1、重新定义表的关联顺序;
![753c95ebebc337ad482c9a0d9567bb1b.png](https://i-blog.csdnimg.cn/blog_migrate/eeeb081f54e661ca863ffb96609debee.jpeg)
2、将外连接转换为内连接;
3、使用等价变换规则;
![a073d4fde7998d3466b1462331b46f76.png](https://i-blog.csdnimg.cn/blog_migrate/170ce7f340a863275e4b3e39e979c93e.jpeg)
4、优化count(),min(),max();
![8c3c5d0542595a7a498056a0ed9dc8b2.png](https://i-blog.csdnimg.cn/blog_migrate/15644e179308535f80bb204c535131ab.jpeg)
5、将一个表达式转换为常数;
6、子查询优化;
![77535e9853aa59fb7947621bd48487ef.png](https://i-blog.csdnimg.cn/blog_migrate/cad8db406931dbbd0534900087147158.jpeg)
7、提前终止查询,如发现一个不成立条件(如where id = -1),立即返回一个空结果;
8、对in()条件进行优化;
1.5 查询处理各个阶段所需要的时间
1.5.1 使用profile(目前已经不推荐使用了)
set
1.5.2 performance_schema是5.5引入的一个性能分析引擎(5.5版本时期开销比较大)
启动监控和历史记录表:use performance_schema
update
![e1cf74a33b0fea6f3e47fb5045e4a1ba.png](https://i-blog.csdnimg.cn/blog_migrate/ca4f73ebed965abd82bfe315ff165bfc.jpeg)
![c6f94bb6a0ffe0710ce8fed9130ae286.png](https://i-blog.csdnimg.cn/blog_migrate/5b85a3c8dafffa37bb6058c99138228a.jpeg)
1.6 特定SQL的查询优化
1.6.1 大表的数据修改
![a42a62b3ff2d4b42ae58451986c3b160.png](https://i-blog.csdnimg.cn/blog_migrate/41d9a93c0cec91efef43b513009f6535.jpeg)
![fe193abba9fc73820be1376009982309.png](https://i-blog.csdnimg.cn/blog_migrate/8b3566c5d7fe9e32ff5d20030c9a47d3.jpeg)
1.6.2 大表的结构修改
对表中的列的字段类型进行修改
改变字段的宽度时还是会锁表
无法解决主从数据库延迟的问题
- 利用主从复制,先对从服务器进入修改,然后主从切换
- (推荐)
添加一个新表(修改后的结构),老表数据导入新表,老表建立触发器,修改数据同步到新表, 老表加一个排它锁(重命名), 新表重命名, 删除老表。
![ed40f468f7da53b6473597065454be32.png](https://i-blog.csdnimg.cn/blog_migrate/1c99e8f8c6372ee02eda6418695d7415.jpeg)
修改语句这个样子:
alter
利用工具修改:
![1a572c8ddee1d8e033648489d0425718.png](https://i-blog.csdnimg.cn/blog_migrate/71dc9dd87e8bc4c74d0ecc9e04d21b34.jpeg)
1.6.3 优化not in 和 <> 查询
子查询改写为关联查询:
SELECT customer_id,first_name,last_name,email
FROM customer
WHERE customer_id
NOT IN (SELECT customer_id FROM payment)
改写后:
SELECT a.customer_id,a.first_name,a.last_name,a.email
FROM customer a
LEFT JOIN payment b ON a.customer_id = b.customer_id
WHERE b.customer_id IS NULL
二、分库分表
2.1 分库分表的几种方式
分担读负载 可通过 一主多从,升级硬件来解决。
2.1.1 把一个实例中的多个数据库拆分到不同实例(集群)
![d4a0512e9875ed0c43e831e222641519.png](https://i-blog.csdnimg.cn/blog_migrate/13d9fe7b385f562fe823954b4924f8b4.jpeg)
拆分简单,不允许跨库。但并不能减少写负载。
2.1.2 把一个库中的表分离到不同的数据库中
![75915e620a7ef14950292b666086be24.png](https://i-blog.csdnimg.cn/blog_migrate/62e70f36232efd68367876463da28c7d.jpeg)
该方式只能在一定时间内减少写压力。
以上两种方式只能暂时解决读写性能问题。
2.1.3 数据库分片
对一个库中的相关表进行水平拆分到不同实例的数据库中
![9b93d80717508023ce6ab7970c0ffea3.png](https://i-blog.csdnimg.cn/blog_migrate/c9c01e49d4b31e96a94ed54f720bdb46.jpeg)
2.1.3.1 如何选择分区键
- 分区键要能尽可能避免跨分区查询的发生
- 分区键要尽可能使各个分区中的数据平均
2.1.3.2 分片中如何生成全局唯一ID
使用auto_increment_increment和auto_increment_offset参数
使用全局节点来生成ID
在Redis等缓存服务器中创建全局ID(推荐)
完!
原作者:唐成勇
原文链接:MySQL性能管理及架构设计(三):SQL查询优化、分库分表 - 完结篇
原出处:思否segmentfault
![629281087f650cef78506fbd413c3810.gif](https://i-blog.csdnimg.cn/blog_migrate/c0ded895fac133b90393ab277087617f.gif)