SQL查询优化

回忆,祭奠时光

于 2023-06-01 09:08:28 发布

阅读量236

点赞数

文章标签： sql mysql 数据库

本文链接：https://blog.csdn.net/qq_43508810/article/details/130981317

版权

#MySQL #查询优化

1.索引失效

1.1 全值匹配

#索引idx_age、idx_age_classId、idx_age_classId_name
select * from student where age=30 
select * from student where age=30 and classId=4  
select * from student where age=30 and classId=4 and name='张三'

MySQL优化器优先选择的满足匹配where条件顺序的索引，而不是其他索引。

例如第一个选择idx_age,第二个选择idx_age_classId,第三个选择idx_age_classId_name

1.2 最佳左前缀法则

在MySQL建立联合索引时会遵循最佳左前缀匹配原则，即最左优先，在检索数据时从联合索引的最左边开始匹配。

#索引idx_age_classId
select * from student where age=30 
select * from student where classId=4

第一个查询能用上索引，第二个不能，因为没有以class_id开头的索引

#索引idx_age_classId
select * from student where age=30 and classId=4
select * from student where classId=4 and age=30

这两个都全部使用了索引，因为**优化器会对where的顺序进行优化，按照能尽可能使用索引的顺序排**。

#索引idx_age_classId_name
select * from student where age=30 and name='张三'

该查询使用了索引idx_age_classId_name，但只有age使用了，name没使用，按照最佳左前缀原则不能略过classId,因此只有age使用了。

where条件使用索引需按照索引建立的顺序，一旦跳过某个字段，索引后面的字段无法被使用

1.3 主键的插入顺序

插入记录的主键最好是依次递增，否则就可能造成页分裂,这就意味着性能损耗 。

建议让主键具有AUTO_INCREMENT ,而不是手动插入。

1.4 计算、函数、类型转换(自动或手动)导致索引失效

#索引idx_name
select * from student where name like 'abc%';
select * from student where left(name,3)='abc';

第一个使用了idx_name,第二个没有使用。

第二个因为需要函数对每个值进行计算，不能提前确定是否满足，只能全部遍历。

#索引id_age
select * from student where age+1 =20
select * from student where age = 19

第一个没使用索引，第二个使用了，原因和使用函数类似。

#name为字符串类型
#索引idx_name
select * from student where name = 123
select * from student where name ='123'

第一个查询的name会进行类型转换，因此没使用索引，第二个使用了索引。

1.5 范围条件右边的列索引失效

#索引idx_age_classId_name
select * from student age=30 and classId>20 and name ='张三'

该查询使用了索引，但只使用了索引age和classId，因为classId是范围查找，导致接下来的name失效。要想充分使用索引可以将索引的顺序修改为idx_age_classId_name。

1.6 is null 可以使用索引，is not null 、不等于(!=或者<>)无法使用索引

#索引idx_name
select * from student where name is null
select * from student where name is not null
select * from student where name !='张三'

第一个查询可以使用索引，第二个、第三个不能。

这三个其实都可使用索引，是否使用索引，取决于使用索引的成本是否大于全表扫描。

例如is null中，如果null值过多，使用索引回表的次数过多，成本过高，查询优化器就会进行全表扫描。

在设计数据表的时候就将字段设置为 not null 约束，并设置默认值，例如将int 类型设置为0，将字符串类型设置为空字符串(‘’)
在查询中not like 也可能会导致全表扫描。

1.7 like以通配符%开头索引失效

使用到索引

select * from student where name like 'ab%'

未使用到索引

select * from student where name like '%ab'

拓展:Alibaba《Java开发手册》
【强制】页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。

1.8 OR 前后存在非索引的列,索引失效

在WHERE子句中，如果在OR前的条件列进行了索引，而在OR后的条件列没有进行索引，那么索引会失效。也就是说，OR前后的两个条件中的列都是索引时，查询中才使用索引。
因为OR的含义就是两个只要满足一个即可，因此 只有一个条件列进行了索引是没有意义的，只要有条件列没有进行索引，就会进行全表扫描，因此索引的条件列也会失效。

#索引 idx_age
select * from student where age=10 or classId=100;

该查询不会使用索引，因为classId没索引会进行全表扫描，所以age不会使用索引。

1.9 数据库和表的字符集统一使用utf8mb4

统一使用utf8mb4( 5.5.3版本以上支持)兼容性更好,统一字符集可以避免由于字符集转换产生的乱码。不同的 字符集进行比较前需要进行转换会造成索引失效。

1.10 建议

对于单列索引，尽量选择针对当前查询过滤性更好的索引
在选择组合索引的时候，当前查询中过滤性最好的字段在索引字段顺序中，位置越靠前越好。
在选择组合索引的时候，尽量选择能够包含当前查询中的where子句中更多字段的索引。
在选择组合索引的时候，如果某个字段可能出现范围查询时，尽量把这个字段放在索引次序的最后面。

总之，书写SQL语句时，尽量避免造成索引失效的情况。

2.关联查询优化

2.1 左外连接

select * from student left join class on student.classId=class.classId

在左外连接中如果查询优化器不优化成内连接的话，左表是驱动表，右表是被驱动表,右外连接于此相反。

给连接条件添加索引，可以提升连接速度。

最好选取数据量小的表做为驱动表,即小表驱动大表。

2.2 内连接

select * from student inner join class on student.classId=class.classId

对于内连接来说，查询优化器可以决定谁作为驱动表，谁作为被驱动表出现。

如果表连接中只能有一个字段有索引，则有索引的字段所在的表会作为被驱动表。

两个表的连接字段都有索引，则选择数据量小的表作为驱动表

2.3 JOIN 语句原理

2.3.1 Simple Nested-Loop Join（简单嵌套循环连接）

算法相当简单，从表A中取出一条数据1，遍历表B，将匹配到的数据放到result… 以此类推，驱动表A中的每一条记录与被驱动表B的记录进行判断：

开销统计	SNLJ
外表扫描次数	1
内表扫描次数	A
读取记录数	A+A*B
JOIN比较次数	A*B
回表读取记录次数	0
因此当A表也就是是驱动表是小表是可以降低开销。

2.3.2 Index Nested-Loop Join（索引嵌套循环连接）

Index Nested-Loop Join其优化的思路主要是为了减少内存表数据的匹配次数，所以要求被驱动表上必须有索引才行。通过外层表匹配条件直接与内层表索引进行匹配，避免和内存表的每条记录去进行比较，这样极大的减少了对内存表的匹配次数。

开销统计	SNLJ	INLJ
外表扫描次数	1	1
内表扫描次数	A	0
读取记录数	A+A*B	A+B(match)
JOIN比较次数	A*B	A*Index(Height)
回表读取记录次数	0	B(match)(如果是二级索引，主键索引为0)

如果被驱动表加索引，效率是非常高的，但如果索引不是主键索引，所以还得进行一次回表查询。相比，被驱动表的索引是主键索引，效率会更高。

2.3.3 Block Nested-Loop Join（块嵌套循环连接）

在SNLJ(简单嵌套循环连接)上的改进，驱动表的数据不再逐条获取，而是一块一块获取，引入了 join buffer 缓存区，将驱动表的相关数据列缓存到join buffer中，然后全表扫描被驱动表，被驱动表的一条记录一次性与join buffer中所有驱动表记录进行匹配(内存中操作)，这样大大降低了被驱动的访问频率。

注意:
这里缓存的不只是关联表的列,select后面的列也会缓存起来。
在一个有N个join关联的sql中会分配N-1个join buffer。所以查询的时候尽量减少不必要的字段，可以让join buffer中可以存放更多的列。

开销统计	SNLJ	INLJ	BNLJ
外表扫描次数	1	1	1
内表扫描次数	A	0	A*used_column_size/join_buffer_size+1
读取记录数	A+A*B	A+B(match)	A+B(Aused_column_size/join_buffer_size)
JOIN比较次数	A*B	A*Index(Height)	B*A
回表读取记录次数	0	B(match)(if possible)	0

参数设置：

block_nested_loop

通过show variables like '%optimizer_switch% 查看 block_nested_loop状态。默认是开启的。

join_buffer_size

驱动表能不能一次加载完，要看join buffer能不能存储所有的数据，默认情况下join_buffer_size=256k。

mysql> show variables like '%join_buffer%';

join_buffer_size的最大值在32位操作系统可以申请4G，而在64位操作系统下可以申请大于4G的Join Buffer空间（64位Windows除外，其大值会被截断为4GB并发出警告）。

2.3.4 JOIN 小结

整体效率比较：INLJ > BNLJ > SNLJ
永远用小结果集驱动大结果集（其本质就是减少外层循环的数据数量）（小的度量单位指的是表行数 * 每行大小）
为被驱动表匹配的条件增加索引(减少内存表的循环匹配次数)
增大join buffer size的大小（一次索引的数据越多，那么内层包的扫描次数就越少）
减少驱动表不必要的字段查询（字段越少，join buffer所缓存的数据就越多）

2.3.5 Hash Join

从MySQL的8.0.20版本开始将废弃BNLJ，因为从MySQL8.0.18版本开始就加入了hash join默认都会使用hash join

Nested Loop:

对于被连接的数据子集较小的情况，Nested Loop是个较好的选择。
Hash Join是做大数据集连接时的常用方式，优化器使用两个表中较小（相对较小）的表利用Join Key在内存中建立散列表，然后扫描较大的表并探测散列表，找出与Hash表匹配的行。
- 这种方式适合于较小的表完全可以放于内存中的情况，这样总成本就是访问两个表的成本之和。
- 在表很大的情况下并不能完全放入内存，这时优化器会将它分割成若干不同的分区，不能放入内存的部分就把该分区写入磁盘的临时段，此时要求有较大的临时段从而尽量提高I/O的性能。
- 它能够很好的工作于没有索引的大表和并行查询的环境中，并提供最好的性能。大多数人都说它是Join的重型升降机。Hash Join只能应用于等值连接（如WHERE A.COL1 = B.COL2），这是由Hash的特点决定的。

2.4 小结

保证被驱动表的JOIN字段已经创建了索引
需要JOIN 的字段，数据类型保持绝对一致。
LEFT JOIN 时，选择小表作为驱动表，大表作为被驱动表。减少外层循环的次数。
INNER JOIN 时，MySQL会自动将小结果集的表选为驱动表。选择相信MySQL优化策略。
能够直接多表关联的尽量直接关联，不用子查询。(减少查询的趟数)
不建议使用子查询，建议将子查询SQL拆开结合程序多次查询，或使用 JOIN 来代替子查询。
衍生表建不了索引

3.子查询优化

子查询可以进行SELECT语句的嵌套查询，即一个SELECT查询的结果作为另一个SELECT语句的条件。 子查询可以一次性完成很多逻辑上需要多个步骤才能完成的SQL操作。

子查询是 MySQL 的一项重要的功能，可以帮助我们通过一个 SQL 语句实现比较复杂的查询。但是，子查询的执行效率不高。原因：

① 执行子查询时，MySQL需要为内层查询语句的查询结果建立一个临时表，然后外层查询语句从临时表中查询记录。查询完毕后，再撤销这些临时表。这样会消耗过多的CPU和IO资源，产生大量的慢查询。

② 子查询的结果集存储的临时表，不论是内存临时表还是磁盘临时表都不会存在索引，所以查询性能会受到一定的影响。

③ 对于返回结果集比较大的子查询，其对查询性能的影响也就越大。

在MySQL中，可以使用连接（JOIN）查询来替代子查询。 连接查询 不需要建立临时表 ，其 速度比子查询 要快，如果查询中使用索引的话，性能就会更好。

4.排序优化

在MySQL中，支持两种排序方式，分别是 FileSort 和 Index 排序。

Index 排序中，索引可以保证数据的有序性，不需要再进行排序，效率更高。
FileSort 排序则一般在 内存中 进行排序，占用CPU较多。如果待排结果较大，会产生临时文件 I/O 到磁盘进行排序的情况，效率较低。

优化建议：

SQL 中，可以在 WHERE 子句和 ORDER BY 子句中使用索引，目的是在 WHERE 子句中 避免全表扫描 ，在 ORDER BY 子句 避免使用 FileSort 排序 。当然，某些情况下全表扫描，或者 FileSort 排序不一定比索引慢。但总的来说，我们还是要避免，以提高查询效率。
尽量使用 Index 完成 ORDER BY 排序。如果 WHERE 和 ORDER BY 后面是相同的列就使用单索引列；如果不同就使用联合索引。
无法使用 Index 时，需要对 FileSort 方式进行调优。

#索引 idx_age_classId_name
select * from student order by age,classId; #数据量大，回表可能导致索引失效
select age,classId from student order by age,classId; #使用索引
select * from student order by age,classId limit 10; #使用索引
select * from student order by classId,age limit 10; #不使用索引，order by字段顺序与索引不一致

小结

INDEX a_b_c(a,b,c)
order by 能使用索引最左前缀
- ORDER BY a
- ORDER BY a,b
- ORDER BY a,b,c
- ORDER BY a DESC,b DESC,c DESC
- 
如果WHERE使用索引的最左前缀定义为常量，则order by 能使用索引
- WHERE a = const ORDER BY b,c
- WHERE a = const AND b = const ORDER BY c
- WHERE a = const ORDER BY b,c
- WHERE a = const AND b > const ORDER BY b,c
- 
不能使用索引进行排序
- ORDER BY a ASC,b DESC,c DESC /* 排序不一致 */
- WHERE g = const ORDER BY b,c /*丢失a索引*/
- WHERE a = const ORDER BY c /*丢失b索引*/
- WHERE a = const ORDER BY a,d /*d不是索引的一部分*/
- WHERE a in (...) ORDER BY b,c /*对于排序来说，多个相等条件也是范围查询*/

5. GROUP BY优化

group by 使用索引的原则几乎跟order by一致，group by 即使没有过滤条件用到索引，也可以直接使用索引。
group by 先排序再分组，遵照索引建的最佳左前缀法则
当无法使用索引列，增大 max_length_for_sort_data 和 sort_buffer_size 参数的设置
where效率高于having，能写在where限定的条件就不要写在having中了
减少使用order by，和业务沟通能不排序就不排序，或将排序放到程序端去做。Order by、group by、distinct这些语句较为耗费CPU，数据库的CPU资源是极其宝贵的。
包含了order by、group by、distinct这些查询的语句，where条件过滤出来的结果集请保持在1000行以内，否则SQL会很慢。

6. 优化分页查询

select * from student limit 2000000,10

优化思路一：
在索引上完成排序分页操作，最后根据主键关联回原表查询所需的其他列的内容。

select * from student t,(select id from student order by id limit 2000000,10 ) a
where t.id =a.id

优化思路二:
该方案适用于主键自增的表，可以把limit查询转化为某个位置的查询

select * from student where id>200000 limit 10;

7.覆盖索引

7.1 什么是覆盖索引

一个索引包含了满足查询结果的数据就叫做覆盖索引。
简单说就是， 索引列+主键 包含 SELECT 到 FROM之间查询的列 。

# idx_age_name
select * from student where age!=20 ; #不使用索引
select age,name from student where age!=20 #使用索引，覆盖索引

7.2 覆盖索引的利弊

好处:
1.避免lnnodb表进行索引的二次查询(回表)
Innodb是以聚集索引的顺序来存储的，对于Innodb来说，二级索引在叶子节点中所保存的是行的主键信息，如果是用二级索引查询数据，在查找到相应的键值后，还需通过主键进行二次查询才能获取我们真实所需要的数据。在覆盖索引中，二级索引的键值中可以获取所要的数据，避免了对主键的二次查询，减少了I0操作，提升了查询效率。

2.可以把随机lO变成顺序IO加快查询效率
由于覆盖索引是按键值的顺序存储的，对于IO密集型的范围查找来说，对比随机从磁盘读取每一行的数据IO要少的多，因此利用覆盖索引在访问时也可以把磁盘的随机读取的IO转变成索引查找的顺序IO。

由于覆盖索引可以减少树的搜索次数，显著提升查询性能，所以使用覆盖索引是一个常用的性能优化手段。

弊端:

索引字段的维护总是有代价的。因此，在建立冗余索引来支持覆盖索引时就需要权衡考虑了。这是业务DBA，或者称为业务数据架构师的工作。

8.索引下推

Index Condition Pushdown(ICP)是MySQL 5.6中新特性，是一种在存储引擎层使用索引过滤数据的一种优化方式。

如果没有ICP，存储引擎会遍历索引以定位基表中的行，并将它们返回给MySQL服务器，由MySQL服务器评估WHERE后面的条件是否保留行。
启用ICP后，如果部分WHERE条件可以仅使用索引中的列进行筛选，则MySQL服务器会把这部分WHERE条件放到存储引擎筛选。然后，存储引擎通过使用索引条目来筛选数据，并且只有在满足这一条件时才从表中读取行。
- 好处:ICP可以减少存储引擎必须访问基表的次数和MySQL服务器必须访问存储引擎的次数。
- 但是，ICP的加速效果取决于在存储引擎内通过ICP筛选掉的数据的比例。

#索引idx_age_name
select * from student where age = 20 and name like '%三%' and classId>100

该查询虽然name无法使用索引，但根据索引下推，在age过滤完之后，发现name在索引中，这时不是进行回表过滤，而是在age使用索引过滤之后，将过滤之后索引数据再一一进行name过滤，最后再回表进行classId过滤。

ICP的使用条件:

如果表的访问类型为 range 、 ref 、 eq_ref 或者 ref_or_null 可以使用ICP。
ICP可以使用InnDB和MyISAM表，包括分区表InnoDB和MyISAM表
对于InnoDB表，ICP仅用于二级索引。ICP的目标是减少全行读取次数，从而减少I/O操作。
当SQL使用覆盖索引时，不支持ICP优化方法。因为这种情况下使用ICP不会减少I/O。
相关子查询的条件不能使用ICP

9.其他查询优化策略

9.1 exist 和 in 的区分

select * from A where  cc in (select cc from B)
select * from A where exists(select cc from B where B.cc=A.cc)

小表驱动大表,A表小就用 ·、exists,B表小就用in

9.2 COUNT(*)与COUNT(具体字段)效率

COUNT(*)、和 COUNT(1) 都是对所有结果进行 COUNT，COUNT(*) 和 COUNT(1) 本质上并没有区别（二者执行时间可能略有差别，不过你还是可以把它俩的执行效率看成是相等的）。如果有 WHERE 子句，则是对所有符合筛选条件的数据行进行统计；如果没有WHERE子句，则是对数据表的数据行数进行统计。
在 InnoDB 引擎中，如果采用 COUNT(具体字段) 来统计数据行数，要尽量采用二级索引。因为主键采用的索引是聚簇索引，聚簇索引包含的信息多，明显会大于二级索引（非聚簇索引）。对于 COUNT(*) 和 COUNT(1) 来说，它们不需要查找具体的行，只是统计行数，系统会自动采用占用空间更小的二级索引来进行统计。