python数据库查询优化_MySQL查询性能调优化

一、索引的概念

索引：类似于字典的目录，设置索引可以 加速数据查找，对数据进行约束；

二、索引类型：

主键索引：保证数据唯一性，不能重复+不能为空

普通索引：加速数据查找

唯一索引:加速查找+不能重复

组合索引(多列组合成一个索引)：

三、索引的工作原理

1、索引原理：

如果要查找的数据，没有设置索引，会从前到后地毯式搜索数据，如果设置了索引，会单独创建一张额外表，按某种格式保存该列数据位置，方便查找；

2、索引表的数据的格式

2.1、

hash格式：会把列中数据逐一hash成hash值(数字)对应数据的存储地址；

索引表：

数据hash值(数字) 存储位置(数字)

888 666

988 444

特点：索引表中的数据，和数据库表中数据顺序不一致了；(hash索引，适合单条数据查找，不适合范围查

找)

2.2、

Btree格式：二叉树，左侧放比自己小的数字，右侧放比自己大的数据

特点：范围查找速度快

四、创建索引：

1、普通索引：

创建索引名 on...表的..列

CREATE INDEX zhanggen on day61.`user`(email);

2、唯一索引：

create unique index 索引名称 on 表名(列名)

drop unique index 索引名称 on 表名

3、组合索引(最左前缀匹配)：

create unique index 索引名称 on 表名(列名,列名)

drop unique index 索引名称 on 表名

create index ix_name_email on userinfo3(name,email,)

4、名称索引：覆盖索引、合并索引

4.1覆盖索引：直接在索引文件里查找，无需查找数据库文件使用索引方式；

SELECT id FROM day61.`user` WHERE id=9999;

4.2合并索引：把多个单列索引，联合使用来查找数据的方式；

SELECT id FROM day61.`user` WHERE id=9999 AND email="9999alex@163.com";

4.3组合索引 和 索引合并的区别：

组合索引：多列制造成一个索引

索引合并：只是使用索引的时候，把多个个单列的索引一起使用；

组合索引效率 > 索引合并

组合索引

----(name,email)

select * from userinfo3 where name='alex' and email='asdf';

select * from userinfo3 where name='alex';

索引合并

----name

----email

SELECT * FROM day61.`user` WHERE id=1993 and email='1992alex@163.com';

select * from userinfo3 where name='id=1993';

select * from userinfo3 where email='1992alex@163.com';

各自应用场景：

两列经常联合使用使用联合索引

索引合并：单列数据 使用索引合并

五、使用索引注意事项

数据库表中添加索引后确实会让查询速度起飞，但前提必须是正确的使用索引来查询，如果以错误的方式使用，则即使建立索引也会不奏效。

即使建立索引，索引也不会生效：

1.常见错误使用索引

- like '%xx'

select * from tb1 where name like '%cn';-使用函数select * from tb1 where reverse(name) = 'wupeiqi';-orselect * from tb1 where nid = 1 or email = 'seven@live.com';

特别的：当or条件中有未建立索引的列才失效，以下会走索引select * from tb1 where nid = 1 or name = 'seven';select * from tb1 where nid = 1 or email = 'seven@live.com' and name = 'alex'

-类型不一致

如果列是字符串类型，传入条件是必须用引号引起来，不然...select * from tb1 where name = 999;- !=

select * from tb1 where name != 'alex'特别的：如果是主键，则还是会走索引select * from tb1 where nid != 123

- >

select * from tb1 where name > 'alex'特别的：如果是主键或索引是整数类型，则还是会走索引select * from tb1 where nid > 123

select * from tb1 where num > 123

-order byselect email fromtb1 order by name desc;

当根据索引排序时候，选择的映射如果不是索引，则不走索引

特别的：如果对主键排序，则还是走索引：select * fromtb1 order by nid desc;-组合索引最左前缀

如果组合索引为：(name,email)

name and email--使用索引

name--使用索引

email-- 不使用索引

2、其他注意事项

- 避免使用select *

- count(1)或count(列) 代替 count(*)- 创建表时尽量时 char代替 varchar-表的字段顺序固定长度的字段优先-组合索引代替多个单列索引(经常使用多个条件查询时)-尽量使用短索引- 使用连接(JOIN)来代替子查询(Sub-Queries)-连表时注意条件类型需一致- 索引散列值(重复少)不适合建索引，例：性别不适合

六、执行计划

explain + 查询SQL:用于评估 SQL执行效率，根据参考信息可以进行SQL优化

EXPLAIN SELECT * FROM day61.`user`;

id

查询顺序标识

如：mysql> explain select * from (select nid,name from tb1 where nid < 10) asB;+----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+

| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |

+----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+

| 1 | PRIMARY | | ALL | NULL | NULL | NULL | NULL | 9 | NULL |

| 2 | DERIVED | tb1 | range | PRIMARY | PRIMARY | 8 | NULL | 9 | Using where |

+----+-------------+------------+-------+---------------+---------+---------+------+------+-------------+特别的：如果使用union连接气值可能为null

select_type

查询类型

SIMPLE 简单查询

PRIMARY 最外层查询

SUBQUERY 映射为子查询

DERIVED 子查询

UNION 联合

UNION RESULT 使用联合的结果

...

table

正在访问的表名

type

查询时的访问方式，性能：all< index < range < index_merge < ref_or_null < ref < eq_ref < system/constALL 全表扫描，对于数据表从头到尾找一遍select * fromtb1;

特别的：如果有limit限制，则找到之后就不在继续向下扫描select * from tb1 where email = 'seven@live.com'

select * from tb1 where email = 'seven@live.com' limit 1;

虽然上述两个语句都会进行全表扫描，第二句使用了limit，则找到一个后就不再继续扫描。

INDEX 全索引扫描，对索引从头到尾找一遍select nid fromtb1;

RANGE 对索引列进行范围查找select * from tb1 where name < 'alex';

PS:

between andin

> >= < <=操作

注意：!= 和 >符号

INDEX_MERGE 合并索引，使用多个单列索引搜索select * from tb1 where name = 'alex' or nid in (11,22,33);

REF 根据索引查找一个或多个值select * from tb1 where name = 'seven';

EQ_REF 连接时使用primary key 或 unique类型select tb2.nid,tb1.name from tb2 left join tb1 on tb2.nid =tb1.nid;

CONST 常量

表最多有一个匹配行,因为仅有一行,在这行的列值可被优化器剩余部分认为是常数,const表很快,因为它们只读取一次。select nid from tb1 where nid = 2;

SYSTEM 系统

表仅有一行(=系统表)。这是const联接类型的一个特例。select * from (select nid from tb1 where nid = 1) asA;

possible_keys

可能使用的索引

key

真实使用的

key_len

MySQL中使用索引字节长度

rows

mysql估计为了找到所需的行而要读取的行数------只是预估值

extra

该列包含MySQL解决查询的详细信息

“Using index”

此值表示mysql将使用覆盖索引，以避免访问表。不要把覆盖索引和index访问类型弄混了。

“Usingwhere”

这意味着mysql服务器将在存储引擎检索行后再进行过滤，许多where条件里涉及索引中的列，当(并且如果)它读取索引时，就能被存储引擎检验，因此不是所有带where子句的查询都会显示“Usingwhere”。有时“Using where”的出现就是一个暗示：查询可受益于不同的索引。

“Using temporary”

这意味着mysql在对查询结果排序时会使用一个临时表。

“Using filesort”

这意味着mysql会对结果使用一个外部索引排序，而不是按索引次序从表里读取行。mysql有两种文件排序算法，这两种排序方式都可以在内存或者磁盘上完成，explain不会告诉你mysql将使用哪一种文件排序，也不会告诉你排序会在内存里还是磁盘上完成。

“Rangechecked foreach record(index map: N)”

这个意味着没有好用的索引，新的索引将在联接的每一行上重新估算，N是显示在possible_keys列中索引的位图，并且是冗余的。

详细

View Code

七、慢日志查询

1、慢日志格式：

- 执行时间 > 10

- 未命中索引

- 日志文件路径

2、在MySQL命令行配置慢日志：

show variables like '%query%'

set global 变量名 = 值

3、在MySQL的配置文件配置慢日志：

mysqld --defaults-file='E:\wupeiqi\mysql-5.7.16-winx64\mysql-5.7.16-winx64\my-default.ini'

my.conf内容：

slow_query_log = ON

slow_query_log_file = D:/....

4、注意：修改配置文件之后，需要重启服务

八、limit分页**

无论是否有索引，limit分页是一个值得关注的问题

上下页间跳转：

基于当前页 的最大ID 和最小ID 推算上一页，下一页显示所需要的数据条目；

指定页间跳转：

求本页到跳转页所需要的数据，选择出所有ID。在选择

1、上页：获取当前页最大ID(假设显示当前页面：需要10条数据，当前页最小ID=20  最大ID=30)

步骤1：where条件筛选出 小于本页最小ID的数据，id=20----最开始数据行；

步骤2：找到本页之前的的数据行，倒序，取其中的10条，就是上页显示需要的数据；

SELECT * FROM day61.`user` WHERE id < 20 ORDER BY id DESC LIMIT 10；

2、下页：获取当前页最大ID(假设显示当前页面：需要10条数据，当前页最小ID=20 最大ID=30)

步骤1：where条件筛选出 大于本页最大ID的数据，id=30----最末尾的数据行；

步骤2：找到本页之后的的数据行，取其中的10条，就是下页显示需要的数据；

SELECT * FROM day61.`user` WHERE id >30 LIMIT 10;

3、上页  3、4、5、6、7、8......下页(跳转到指定页，假设显示当前页面：需要10条数据，当前页最小ID=20 最大ID=30)

假设从 第3页跳转到第8页

步骤1：获取显示本页最大ID之后的数据行，limit(8-3)*10数据行

步骤2：获取了3-8行之间所有数据行 limit(10)就是显示跳转页所需数据；

步骤3、select id 获取显示该页所需要 数据行的，所有id，在选择跳转页 id；

select * from userinfo3 where id in (

select id from (select id from userinfo3 where id > max_id limit 30) as N order by N.id desc limit 10

获取跳转页数据行 所有的ID

)