数据库监控与调优【四】—— EXPLAIN详解

最新推荐文章于 2024-09-26 01:10:54 发布

Query*

最新推荐文章于 2024-09-26 01:10:54 发布

阅读量744

点赞数 1

文章标签：数据库 mysql java

本文链接：https://blog.csdn.net/qq_46601365/article/details/131405957

版权

EXPLAIN详解（使用、可视化、扩展与性能计算公式）

TIPS

本文基于MySQL 8.0编写，理论支持MySQL 5.0及更高版本。

什么是EXPLAIN命令

EXPLAIN命令是查看MySQL查询优化器如何执行查询的主要方法，可以很好地分析SQL语句的执行情况。每当遇到执行慢的SQL，就可以使用EXPLAIN命令来检查SQL的执行情况，并根据运行结果进行分析，采用相应的方法对SQL语句进行优化。

通过EXPLAIN我们可以获得以下信息：

表的读取顺序
数据读取操作的操作类型
哪些索引可以使用
哪些索引被实际使用
表之间的引用
每张表有多少行被优化器查询

EXPLAIN使用

EXPLAIN可用来分析SQL的执行计划，格式如下：

{EXPLAIN | DESCRIBE | DESC} tbl_name [col_name | wild]

-- 使用最广泛
{EXPLAIN | DESCRIBE | DESC} [explain_type] {explainable_stmt | FOR CONNECTION connection_id}  

{EXPLAIN | DESCRIBE | DESC} ANALYZE select_statement

explain_type: {
   	FORMAT = format_name
}

format_name: {
     TRADITIONAL
   | JSON
   | TREE
}

explainable_stmt: {
     SELECT statement
   | TABLE statement
   | DELETE statement
   | INSERT statement
   | REPLACE statement
   | UPDATE statement
}

示例

EXPLAIN FORMAT = TRADITIONAL JSON SELECT
    tt.TicketNumber,
    tt.TimeIn,
    tt.ProjectReference,
    tt.EstimatedshipDate,
    tt.ActualShipDate,
    tt.ClientID,
    tt.ServiceCodes,
    tt.RepetitiveID,
    tt.CurrentProcess,
    tt.CurrentDPPerson,
    tt.RecordVolume,
    tt.DPPrinted,
    et.COUNTRY,
    et_1.COUNTRY,
    do.CUSTNAME 
FROM tt, et, et AS et_1, do
WHERE
	tt.SubmitTime IS NULL 
	AND tt.ActualPC = et.EMPLOYID 
	AND tt.AssignedPC = et_1.EMPLOYID
	AND tt.ClientID = do.CUSTNMBR;
	
EXPLAIN SELECT
	* 
FROM
	salaries 
WHERE
	from_date = "1996-12-02"
	
EXPLAIN SELECT
	* 
FROM
	employees e
	LEFT JOIN salaries s ON e.emp_no = s.emp_no 
WHERE
	e.emp_no = 10001;

-- 树状结构返回结果
EXPLAIN format = tree SELECT
	* 
FROM
	employees e
	LEFT JOIN salaries s ON e.emp_no = s.emp_no 
WHERE
	e.emp_no = 10001;

结果输出展示

在这里插入图片描述

结果解读

id

该语句的唯一标识

如果多行id相同，执行顺序由上至下；
如果是子查询，id的序号会递增，id值越大优先级越高，越先被执行；
如果多行id有的相同有的不同，那么id相同的可以认为是一组，同一组中从上往下执行；id大的组优先执行；

select_type

查询类型，所显示的是SELECT的类型，有如下几种取值：

SIMPLE：简单的SELECT，没有使用UNION或者子查询；
PRIMARY：最外层SELECT；
UNION：在UNION中的第二个和随后的SELECT被标记为UNION。如果UNION被FROM子句的子查询包含，那么它的第一个SELECT会被标记为DERIVED；
DEPENDENT UNION：UNION语句中的第二个SELECT，依赖于外面的查询；
UNION RESULT：UNION的结果；
SUBQUERY：子查询中的第一个SELECT；
DEPENDENT SUBQUERY：子查询中的第一个SELECT，依赖于外面的查询；
DERIVED：用来表示包含在FROM子句的子查询中的SELECT，MYSQL会递归执行并将结果放到一个临时表中。MYSQL内部将其称为是Derived table（派生表），因为该临时表是从子查询派生出来的；
DEPENDENT DERIVED：派生表，依赖了其他的表
MATERIALIZED：物化子查询
UNCACHEABLE SUBQUERY：子查询，结果无法缓存，必须针对外部查询的每一行重新评估
UNCACHEABLE UNION：UNION属于UNCACHEABLE SUBQUERY的第二个或后面的查询

table

表示当前这一行正在访问哪张表，如果SQL定义了别名，则展示表的别名

partitions

当前查询匹配记录的分区。对于未分区的表，返回null

type

连接类型，有如下几种取值，性能从好到坏排序 如下：

system：表只有一行记录（等于系统表），这是const类型的特列，平时不会出现，这个也可以忽略不计；
const：表示通过索引一次就找到了，const用于PRIMARY KEY或者UNIQUE索引。因为只匹配一行数据，所以很快。如将主键置于where语句中，MySQL就能将该查询转换为一个常量；
eq_ref：唯一性索引扫描，对于每个索引键，表中只有一条记录与之匹配。

当使用了索引的全部组成部分，并且索引是PRIMARY KEY或UNIQUE NOT NULL才会使用该类型，性能仅次于system及const。

-- 多表关联查询，单行匹配
SELECT * FROM ref_table,other_table WHERE ref_table.key_column=other_table.column;

-- 多表关联查询，联合索引，多行匹配
SELECT * FROM ref_table,other_table WHERE ref_table.key_column_part1=other_table.column AND ref_table.key_column_part2=1;

ref：非唯一性索引扫描，返回匹配某个单独值的所有行，本质上也是一种索引访问，它返回所有匹配某个单独值的行，然而，它可能会找到多个符合条件的行，所以他应该属于查找和扫描的混合体；

当满足索引的最左前缀规则，或者索引不是主键也不是唯一索引时才会发生。如果使用的索引只会匹配到少量的行，性能也是不错的。

-- 根据索引（非主键，非唯一索引），匹配到多行
SELECT * FROM ref_table WHERE key_column=expr;

-- 多表关联查询，单个索引，多行匹配
SELECT * FROM ref_table,other_table WHERE ref_table.key_column=other_table.column;

-- 多表关联查询，联合索引，多行匹配
SELECT * FROM ref_table,other_table WHERE ref_table.key_column_part1=other_table.column AND ref_table.key_column_part2=1;

TIPS

最左前缀原则，指的是索引按照最左优先的方式匹配索引。比如创建了一个组合索引(column1, column2, column3)，那么，如果查询条件是：

WHERE column1 = 1、WHERE column1= 1 AND column2 = 2、WHERE column1= 1 AND column2 = 2 AND column3 = 3 都可以使用该索引；
WHERE column1 = 2、WHERE column1 = 1 AND column3 = 3就无法匹配该索引。

fulltext：全文索引
ref_or_null：该类型类似于ref，但是MySQL会额外搜索哪些行包含了NULL。这种类型常见于解析子查询

SELECT * FROM ref_table WHERE key_column=expr OR key_column IS NULL;

index_merge：此类型表示使用了索引合并优化，表示一个查询里面用到了多个索引
unique_subquery：该类型和eq_ref类似，但是使用了IN查询，且子查询是主键或者唯一索引。例如：

value IN (SELECT primary_key FROM single_table WHERE some_expr)

index_subquery：和unique_subquery类似，只是子查询使用的是非唯一索引

value IN (SELECT key_column FROM single_table WHERE some_expr)

range：范围扫描，表示检索了指定范围的行，主要用于有限制的索引扫描。比较常见的范围扫描是带有BETWEEN子句或WHERE子句里有>、>=、<、<=、IS NULL、<=>、BETWEEN、LIKE、IN()等操作符。这种范围扫描索引比全表扫描要好，因为它只需要开始于索引的某一点，而结束于另一点，不用扫描全部索引

SELECT * FROM tbl_name WHERE key_column BETWEEN 10 and 20;

SELECT * FROM tbl_name WHERE key_column IN (10,20,30);

index：全索引扫描，和ALL类似，只不过index是全盘扫描了索引的数据。当查询仅使用索引中的一部分列时，可使用此类型。有两种场景会触发：

如果索引是查询的覆盖索引，并且索引查询的数据就可以满足查询中所需的所有数据，则只扫描索引树。此时，explain的Extra 列的结果是Using index。index通常比ALL快，因为索引文件的大小通常小于表数据文件。（也就是说虽然all和index都是读全表，但index是从索引中读取的，而all是从硬盘读取的）
按索引的顺序来查找数据行，执行了全表扫描。此时，explain的Extra列的结果不会出现Uses index。

ALL：全表扫描，将遍历全表以找到匹配的行，性能最差。

possible_keys

展示当前查询可以使用哪些索引，这是基于查询访问的列和使用的比较操作符来判断的。查询涉及到的字段上若存在索引，则该索引将被列出，但不一定被查询实际使用。这一列的数据是在优化过程的早期创建的，因此有些索引可能对于后续优化过程是没用的

key

表示MySQL实际选择的索引，如果为NULL，则没有使用索引。可能原因包括没有建立索引或索引失效

key_len

表示MySQL索引使用的字节数。可通过该列计算查询中使用的索引的长度。在不损失精确性的情况下，长度越短越好。由于存储格式，当字段允许为NULL时，key_len比不允许为空时大1字节

key_len计算公式：https://www.cnblogs.com/gomysql/p/4004244.html

ref

显示索引的哪一列被使用了，如果可能的话，是一个常数。哪些列或常量被用于查找索引列上的值

rows

MySQL估算会扫描的行数，根据表的统计信息和索引的选用情况，这个估算可能很不精确。通过把所有rows列值相乘，可以粗略的估算出整个查询会检查的行数。越小越好

filtered

显示的是针对表里符合查询条件的记录数所做的一个悲观估算的百分比。最大100。用rows × filtered可获得和下一张表连接的行数。例如rows = 1000，filtered = 50%，则和下一张表连接的行数是500。

TIPS
在MySQL 5.7之前，想要显示此字段需使用explain extended命令；
MySQL.5.7及更高版本，explain默认就会展示filtered

Extra

展示有关本次查询的附加信息，取值如下：

Child of ‘table’ pushed join@1
此值只会在NDB Cluster下出现
const row not found
例如查询语句SELECT … FROM tbl_name，而表是空的
Deleting all rows
对于DELETE语句，某些引擎（例如MyISAM）支持以一种简单而快速的方式删除所有的数据，如果使用了这种优化，则显示此值
Distinct
查找distinct值，当找到第一个匹配的行后，将停止为当前行组合搜索更多行
FirstMatch(tbl_name)
当前使用了半连接FirstMatch策略，详见 https://mariadb.com/kb/en/firstmatch-strategy/ ，翻译 https://www.cnblogs.com/abclife/p/10895624.html
Full scan on NULL key
子查询中的一种优化方式，在无法通过索引访问null值的时候使用
Impossible HAVING
HAVING子句始终为false，不会命中任何行
Impossible WHERE
WHERE子句始终为false，不会命中任何行
Impossible WHERE noticed after reading const tables
MySQL已经读取了所有const（或system）表，并发现WHERE子句始终为false
LooseScan(m…n)
当前使用了半连接LooseScan策略，详见 https://mariadb.com/kb/en/loosescan-strategy/ ，翻译 http://www.javacoder.cn/?p=39
No matching min/max row
没有任何能满足例如 SELECT MIN(…) FROM … WHERE condition 中的condition的行
no matching row in const table
对于关联查询，存在一个空表，或者没有行能够满足唯一索引条件
No matching rows after partition pruning
对于DELETE或UPDATE语句，优化器在partition pruning（分区修剪）之后，找不到要delete或update的内容
No tables used
当此查询没有FROM子句或拥有FROM DUAL子句时出现。例如：explain select 1
Not exists
MySQL能对LEFT JOIN优化，在找到符合LEFT JOIN的行后，不会为上一行组合中检查此表中的更多行。例如：
```
SELECT * FROM t1 LEFT JOIN t2 ON t1.id=t2.id WHERE t2.id IS NULL;
```
假设t2.id定义成了NOT NULL ，此时，MySQL会扫描t1，并使用t1.id的值查找t2中的行。如果MySQL在t2中找到一个匹配的行，它会知道t2.id永远不会为NULL，并且不会扫描t2中具有相同id值的其余行。也就是说，对于t1中的每一行，MySQL只需要在t2中只执行一次查找，而不考虑在t2中实际匹配的行数。
在MySQL 8.0.17及更高版本中，如果出现此提示，还可表示形如 NOT IN (subquery) 或 NOT EXISTS (subquery) 的WHERE条件已经在内部转换为反连接。这将删除子查询并将其表放入最顶层的查询计划中，从而改进查询的开销。通过合并半连接和反联接，优化器可以更加自由地对执行计划中的表重新排序，在某些情况下，可让查询提速。你可以通过在EXPLAIN语句后紧跟一个SHOW WARNING语句，并分析结果中的Message列，从而查看何时对该查询执行了反联接转换。

TIPS

两表关联只返回主表的数据，并且只返回主表和子表没关联上的数据，这种连接就叫反连接。
Plan isn’t ready yet
使用了EXPLAIN FOR CONNECTION，当优化器尚未完成为在指定连接中为执行的语句创建执行计划时，就会出现此值。
Range checked for each record (index map: N)
MySQL没有找到合适的索引去使用，但是去检查是否可以使用range或index_merge来检索行时，会出现此提示。index map N索引的编号从1开始，按照与表的SHOW INDEX所示相同的顺序。索引映射值N是指示哪些索引是候选的位掩码值。例如0x19（二进制11001）的值意味着将考虑索引1、4和5。
示例：下面例子中，name是varchar类型，但是条件给出整数型，涉及到隐式转换。
图中t2也没有用到索引，是因为查询之前我将t2中name字段排序规则改为utf8_bin导致的链接字段排序规则不匹配。
```
explain select a.* from t1 a left join t2 b on t1.name = t2.name where t2.name = 2;
```
结果：

id	select_type	table	partitions	type	possible_keys	key	key_len	ref	rows	filtered	Extra
1	SIMPLE	t2	NULL	ALL	idx_name	NULL	NULL	NULL	9	11.11	Using where
1	SIMPLE	t1	NULL	ALL	idx_name	NULL	NULL	NULL	5	11.11	Range checked for each record (index map: 0x8)

Recursive
出现了递归查询。详见 “WITH (Common Table Expressions)”

Rematerialize
用得很少，使用类似如下SQL时，会展示Rematerialize

SELECT ... FROM t, LATERAL (derived table that refers to t) AS dt

Scanned N databases
表示在处理INFORMATION_SCHEMA表的查询时，扫描了几个目录，N的取值可以是0，1或者all。详见 “Optimizing INFORMATION_SCHEMA Queries”
Select tables optimized away
优化器确定：①最多返回1行；②要产生该行的数据，要读取一组确定的行，时会出现此提示。一般在用某些聚合函数访问存在索引的某个字段时，优化器会通过索引直接一次定位到所需要的数据行完成整个查询时展示，例如下面这条SQL。
```
explain select min(id) from t1;
```
Skip_open_table， Open_frm_only， Open_full_table
这些值表示适用于INFORMATION_SCHEMA表查询的文件打开优化；
Skip_open_table：无需打开表文件，信息已经通过扫描数据字典获得
Open_frm_only：仅需要读取数据字典以获取表信息
Open_full_table：未优化的信息查找。表信息必须从数据字典以及表文件中读取
Start temporary, End temporary
表示临时表使用Duplicate Weedout策略，详见 https://mariadb.com/kb/en/duplicateweedout-strategy/ ，翻译 https://www.cnblogs.com/abclife/p/10895531.html
unique row not found
对于形如 SELECT … FROM tbl_name 的查询，但没有行能够满足唯一索引或主键查询的条件
Using filesort（一般出现了就需要优化）
当Query 中包含 ORDER BY 操作，而且无法利用索引完成排序操作的时候，MySQL Query Optimizer 不得不选择相应的排序算法来实现。数据较少时从内存排序，否则从磁盘排序。 Explain不会显示的告诉客户端用哪种排序。官方解释：“MySQL需要额外的一次传递，以找出如何按排序顺序检索行。通过根据联接类型浏览所有行并为所有匹配WHERE子句的行保存排序关键字和行的指针来完成排序。然后关键字被排序，并按排序顺序检索行”
Using index
仅使用索引树中的信息从表中检索列信息，而不必进行其他查找以读取实际行。当查询仅使用属于单个索引的列时，可以使用此策略。例如：
```
explain SELECT id FROM t
```
Using index condition

表示先按条件过滤索引，过滤完索引后找到所有符合索引条件的数据行，随后用 WHERE 子句中的其他条件去过滤这些数据行。通过这种方式，除非有必要，否则索引信息将可以延迟“下推”读取整个行的数据。详见 “Index Condition Pushdown Optimization” 。例如：

TIPS

● MySQL分成了Server层和引擎层，下推指的是将请求交给引擎层处理。

● 理解这个功能，可创建索引INDEX (zipcode, lastname,firstname)，并分别用如下指令，

SET optimizer_ switch = ’ index_ condition_ pushdown=off’ ;

SET optimizer_ switch = " index_ condition_ pushdown=on’;

开或者关闭索引条件下推，并对比：

explain SELECT * FROM people WHERE zipcode= '95054 " AND lastname LIKE ’ %etrunia% " AND address LIKE " %Main Street%" ;

的执行结果。

● index condition pushdown从MySQL 5.6开始支持，是MySQL针对特定场景的优化机制，感兴趣的可以看下：https://blog.51cto.com/lee90/2060449
Using index for group-by

数据访问和 Using index 一样，所需数据只须要读取索引，当Query 中使用GROUP BY或DISTINCT 子句时，如果分组字段也在索引中，Extra中的信息就会是 Using index for group-by。详见 “GROUP BY Optimization”
```
-- name字段有索引
explain SELECT name FROM t1 group by name
```
Using index for skip scan
表示使用了Skip Scan。详见 Skip Scan Range Access Method
Using join buffer (Block Nested Loop), Using join buffer (Batched Key Access)
使用Block Nested Loop或Batched Key Access算法提高join的性能。详见 https://www.cnblogs.com/chenpingzhao/p/6720531.html
Using MRR
使用了Multi-Range Read优化策略。详见 “Multi-Range Read Optimization”
Using sort_union(…), Using union(…), Using intersect(…)
这些指示索引扫描如何合并为index_merge连接类型。详见 “Index Merge Optimization” 。
Using temporary（一般出现了就需要优化）
为了解决该查询，MySQL需要创建一个临时表来保存结果。如果查询包含不同列的GROUP BY和 ORDER BY子句，通常会发生这种情况。
```
-- name无索引
explain SELECT name FROM t1 group by name
```
Using where

如果我们不是读取表的所有数据，或者不是仅仅通过索引就可以获取所有需要的数据，则会出现using where信息
```
explain SELECT * FROM t1 where id > 5
```
Using where with pushed condition
仅用于NDB
Zero limit
该查询有一个limit 0子句，不能选择任何行
```
explain SELECT name FROM resource_template limit 0
```

扩展的EXPLAIN

EXPLAIN可产生额外的扩展信息，可通过在EXPLAIN语句后紧跟一条SHOW WARNINGS语句查看扩展信息。但是这个语句只能在MySQL终端执行查看结果。具体见下。

TIPS

在MySQL 8.0.12及更高版本，扩展信息可用于SELECT、DELETE、INSERT、REPLACE、UPDATE语句；在MySQL 8.0.12之前，扩展信息仅适用于SELECT语句；
在MySQL 5.6及更低版本，需使用EXPLAIN EXTENDED xxx语句；而从MySQL 5.7开始，无需添加EXTENDED关键词。

使用示例：

mysql> EXPLAIN
       SELECT t1.a, t1.a IN (SELECT t2.a FROM t2) FROM t1\G
*************************** 1. row ***************************
           id: 1
  select_type: PRIMARY
        table: t1
         type: index
possible_keys: NULL
          key: PRIMARY
      key_len: 4
          ref: NULL
         rows: 4
     filtered: 100.00
        Extra: Using index
*************************** 2. row ***************************
           id: 2
  select_type: SUBQUERY
        table: t2
         type: index
possible_keys: a
          key: a
      key_len: 5
          ref: NULL
         rows: 3
     filtered: 100.00
        Extra: Using index
2 rows in set, 1 warning (0.00 sec)

mysql> SHOW WARNINGS\G
*************************** 1. row ***************************
  Level: Note
   Code: 1003
Message: /* select#1 */ select `test`.`t1`.`a` AS `a`,
         <in_optimizer>(`test`.`t1`.`a`,`test`.`t1`.`a` in
         ( <materialize> (/* select#2 */ select `test`.`t2`.`a`
         from `test`.`t2` where 1 having 1 ),
         <primary_index_lookup>(`test`.`t1`.`a` in
         <temporary table> on <auto_key>
         where ((`test`.`t1`.`a` = `materialized-subquery`.`a`))))) AS `t1.a
         IN (SELECT t2.a FROM t2)` from `test`.`t1`
1 row in set (0.00 sec)

由于SHOW WARNINGS的结果并不一定是一个有效SQL，也不一定能够执行（因为里面包含了很多特殊标记）。特殊标记取值如下：

<auto_key>
自动生成的临时表key
<cache>(expr)
表达式（例如标量子查询）执行了一次，并且将值保存在了内存中以备以后使用。对于包括多个值的结果，可能会创建临时表，你将会看到 <temporary table> 的字样
<exists>(query fragment)
子查询被转换为 EXISTS
<in_optimizer>(query fragment)
这是一个内部优化器对象，对用户没有任何意义
<index_lookup>(query fragment)
使用索引查找来处理查询片段，从而找到合格的行
<if>(condition, expr1, expr2)
如果条件是true，则取expr1，否则取expr2
<is_not_null_test>(expr)
验证表达式不为NULL的测试
<materialize>(query fragment)
使用子查询实现
materialized-subquery.col_name
在内部物化临时表中对col_name的引用，以保存子查询的结果
<primary_index_lookup>(query fragment)
使用主键来处理查询片段，从而找到合格的行
<ref_null_helper>(expr)
这是一个内部优化器对象，对用户没有任何意义
/* select#N */ select_stmt
SELECT与非扩展的EXPLAIN输出中id=N的那行关联
outer_tables semi join (inner_tables)
半连接操作。inner_tables展示未拉出的表。详见 “Optimizing Subqueries, Derived Tables, and View References with Semijoin Transformations”
<temporary table>
表示创建了内部临时表而缓存中间结果

当某些表是const或system类型时，这些表中的列所涉及的表达式将由优化器尽早评估，并且不属于所显示语句的一部分。但是，当使用FORMAT=JSON时，某些const表的访问将显示为ref。

估计查询性能

多数情况下，你可以通过计算磁盘的搜索次数来估算查询性能。对于比较小的表，通常可以在一次磁盘搜索中找到行（因为索引可能已经被缓存了），而对于更大的表，你可以使用B-tree索引进行估算：你需要进行多少次查找才能找到行：

log(row_count) / log(index_block_length / 3 * 2 / (index_length + data_pointer_length)) + 1

可以看到row_count（数据行数）和index_length（索引长度）越大，性能越差。

在MySQL中，index_block_length通常是1024字节，数据指针一般是4字节。比方说，有一个500,000的表，key是3字节，那么根据计算公式

log(500,000)/log(1024/3*2/(3+4)) + 1 = 4 次搜索。

该索引将需要500,000 * 7 * 3/2 = 5.2MB的存储空间（假设典型的索引缓存的填充率是2/3），因此你可以在内存中存放更多索引，可能只要一到两个调用就可以找到想要的行了。

但是，对于写操作，你需要四个搜索请求来查找在何处放置新的索引值，然后通常需要2次搜索来更新索引并写入行。

前面的讨论并不意味着你的应用性能会因为log N而缓慢下降。只要内容被OS或MySQL服务器缓存，随着表的变大，只会稍微变慢。在数据量变得太大而无法缓存后，将会变慢很多，直到你的应用程序受到磁盘搜索约束（按照log N增长）。为了避免这种情况，可以根据数据的增长而增加key的。对于MyISAM表，key的缓存大小由名为key_buffer_size的系统变量控制，详见 Section 5.1.1, “Configuring the Server”