工作中索引失效场景?

条件字段有索引,为什么查询也这么慢?

加紧学习,抓住中心,宁静勿杂,宁专勿多。 —— 周恩来

如果我们想在某一本书中找到特定的主题,一般最快的方法是先看索引,找到对应的主题在哪个页码。

而对于 MySQL 而言,如果需要查找某一行的值,可以先通过索引找到对应的值,然后根据索引匹配的记录找到需

要查询的数据行。然而,有时会发现,即使查询条件有索引,也会查询很慢,本节将分享这类情况。

下面会讲解几种有索引但是查询不走索引导致查询慢的场景。

1 、函数操作

小伙伴们在使用 MySQL 查询数据时,可能很多时候会借助一些函数实现查询。有时可能我们关注的重心在是否能查出结果,往往忽略了查询的效率。现在就一起研究对条件索引字段做函数操作,是否能用到索引?

1.1 验证对条件字段做函数操作是否能走索引

首先创建测试表,建表及数据写入语句如下:

use muke; /* 使用muke这个database */

drop table if exists t1; /* 如果表t1存在则删除表t1 */

/* 创建表t1 */

CREATE TABLE t1 (

    id int(11) NOT NULL AUTO_INCREMENT,

    a varchar(20) DEFAULT NULL,
    
    b int(20) DEFAULT NULL,

    c datetime NOT NULL DEFAULT CURRENT_TIMESTAMP,

    PRIMARY KEY (id),

    KEY idx_a (a) USING BTREE,

    KEY idx_b (b) USING BTREE,

    KEY idx_c (c) USING BTREE

) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;


drop procedure if exists insert_t1; /* 如果存在存储过程insert_t1,则删除 */


delimiter ;;

create procedure insert_t1()  /* 创建存储过程insert_t1 */

begin


    declare i int; /* 声明变量i */

    set i=1; /* 设置i的初始值为1 */

    while(i<=10000)do /* 对满足i<=10000的值进行while循环 */

        insert into t1(a,b) values(i,i); /* 写入表t1中a、b两个字段,值都为i当前的值 */

        set i=i+1; /* 将i加1 */

    end while;

end;;

delimiter ;


call insert_t1(); /* 运行存储过程insert_t1 */

update t1 set c = '2019-05-22 00:00:00'; /* 更新表t1的c字段,值都为'2019-05-22 00:00:00' */

update t1 set c = '2019-05-21 00:00:00' where id=10000; /* 将id为10000的行的c字段改为与其它行都不一样的数据,以便后面实验使用 */

对于上面创建的测试表,比如要查询测试表 t1 单独某一天的所有数据,SQL如下:

select * from t1 where date(c) ='2019-05-21';

这里就可以使用第 上节学习的 explain 来分析这条SQL的执行计划,分析结果如下:

 explain select * from t1 where date(c) ='2019-05-21';

查看图中的执行计划,type 为 ALL,key 字段结果为 NULL,因此知道该 SQL 是没走索引的全表扫描。 (执行计划各字段的解释如果忘记了,可以查阅我上篇文章中的 2 小节)

原因:对条件字段做函数操作走不了索引。

1.2 对条件字段做函数操作不走索引的原因

为什么对条件字段做函数操作走不了索引,我们下面来讨论一下:

该例中 c 字段普通索引的 B+ 索引树如下:

根据上面结构可以看到,索引树中存储的是列的实际值和主键值。如果拿 ‘2019-05-21’ 去匹配,将无法定位到索引树中的值。因此放弃走索引,而选择全表扫描。

1.3 函数操作的 SQL 优化

因此如果需要优化的话,改成 c 字段实际值相匹配的形式。因为 SQL 的目的是查询 2019-05-21 当天所有的记录,因此可以改成范围查询,如下:

select * from t1 where c>='2019-05-21 00:00:00' and c<='2019-05-21 23:59:59';

再用 explain 分析下执行计划:

explain select * from t1 where c>='2019-05-21 00:00:00' and c<='2019-05-21 23:59:59';

根据上面的结果,可确定,走了 c 字段的索引(对应关注字段 key),扫描行数 1 行(对应关注字段 rows)。

经验分享:

类似求某一天或者某一个月数据的需求,建议写成类似上例的范围查询,可让查询能走索引。避免对条件索引字段做函数处理。我在工作中就曾经遇到过这类慢查询,如下:

如果明白了上面的优化技巧,可以尝试着改写优化这条 SQL。

SELECT tml_num_id, status_num_id 

FROM  sd_bl_so_tml_hdr 

WHERE tenant_num_id = 6 

AND data_sign = 0 AND sub_unit_num_id = 100004

AND channel_num_id = 91 AND date_format(order_date, '%Y%m%d') = date_format('2019-06-02', 

'%Y%m%d') 

AND status_num_id < 3 LIMIT 100;

2、隐式转换

2.1 认识隐式转换

什么时隐式转换?

当操作符与不同类型的操作对象一起使用时,就会发生类型转换以使操作兼容。某些转换是隐式的。

关于隐式转换详情请参考MySQL官方手册

隐式转换估计是很多 MySQL 使用者踩过的坑,比如联系方式字段。由于有时电话号码带加、减等特殊字符,有时需要以 0 开头,因此一般设计表时会使用 varchar 类型存储,并且会经常做为条件来查询数据,所以会添加索引。

而有时遇到需要按照手机号码条件(比如 11111111111)去查询数据时,因为查询者看到条件是一串数字,而忽视表中对应手机号字段是 varchar 类型,因此写出了如下不合理的SQL:

select user_name,tele_phone from user_info where tele_phone =11111111111; /* SQL 1 */

实际情况这条 SQL 查询效率是很低的。首先根据你的经验,思考下这条 SQL 怎么优化?

如果暂时不确定方法,请看下面的实验。

2.2 验证隐式转换是否能走索引

我们一起来通过实验验证一下隐式转换是否能走索引。

实验过程分为:先创建测试表并写入数据;测试隐式转换的查询并查看执行计划;测试正常查询,再查看执行计划。

比如我们要查询 a 字段等于 1000 的值,SQL如下:

select * from t1 where a=1000;

而这条 SQL 是否能使用索引呢?我们一起看下 explain 结果:        

 explain select * from t1 where a=1000;

通过 type 这列可以看到是最差的情况 ALL(全表扫描,如果对 explain 结果中 type 各个值没印象的,可以查看第2 节中<表 3-type 各项值解释>), 通过 key 这列可以看到没走 a 字段的索引,通过 rows 这列可以看到进行了全表扫描。

2.3 不走索引的原因

a 字段类型是 varchar(20),而语句中 a 字段条件值没加单引号,导致 MySQL 内部会先把a转换成int型,再去做判断,相当于实际执行的 SQL 语句如下:

mysql> select * from t1 where cast(a as signed int) =1000;

因此又回到上面说的:对索引字段做函数操作时,优化器会放弃使用索引。

2.4 隐式转换的 SQL 优化

索引字符串列条件添加单引号,查看执行计划:

explain select * from t1 where a='1000';

通过 type 这列,可以看到是 ref(基于普通索引的等值查询,比 ALL 性能好很多,可复习第 2 节<表3-type 各项值解释>),通过key这列,可以看到已经走了a字段的索引,通过rows这列可以看到通过索引查询后就扫描了一行。

因此在联系方式这个例子中的 sql 1 可以这样优化:

select user_name,tele_phone from user_info where tele_phone ='11111111111';

经验分享:

隐式转换导致查询慢的情况在工作中遇到过几次,有时字段名对开发写SQL产生了影响,比如曾经遇到过字段名是user_num,而实际字段类型是char,但是开发在写SQL时误认为是int型,导致漏写单引号而发生隐式转换。所以建议在写SQL时,先看字段类型,然后根据字段类型写SQL

3 模糊查询

3.1 分析模糊查询

很多时候我们想根据某个字段的某几个关键字查询数据,比如会有如下 SQL:

mysql> select * from t1 where a like '%1111%';

实际这种情况无法走索引,看下执行计划:

explain select * from t1 where a like '%1111%';

重点留意type、key、rows、Extra,发现是全表扫描。

3.2 模糊查询优化建议

修改业务,让模糊查询必须包含条件字段前面的值,然后落到数据库的查询为:

select * from t1 where a like '1111%';

Tips:这个优化方式必须结合业务,如果只是这样改SQL,可能会导致查询的结果不正确。

这种写法是可以用到索引的,explain分析如下:

原因:

为什么%在前面就无法使用索引来优化查询,简单来说,就是通配符%在前面表示前面模糊查询,就像查字典要查185页,但是前面模糊了就变成了查 ?85页或者??5 页,这叫我怎么找,到底是285页还是385、485页等等,所以通配符%在前面MySQL无法确定索引应该如何匹配查询条件,因此无法使用索引进行优化。

4 范围查询

也许你会在工作中因为要查询某个范围的数据而使用范围查询,但不知道有没有遇到过这种场景?明明范围查询的条件字段有索引,但是却全表扫描了。

4.1 构造不能使用索引的范围查询

我们拿测试表举例,比如要取出b字段1到2000范围数据,SQL 如下 :

select * from t1 where b>=1 and b <=2000;

首先看下这条 SQL 的执行计划:

explain select * from t1 where b>=1 and b <=3000;

发现并不能走b字段的索引

原因:通俗易懂就是优化器觉得全表扫描你比走索引效率还搞,为什么呢?因为优化器会根据检索比例、表大小、I/O块大小等进行评估是否使用索引,比如单次查询的数据量过大,优化器将不走索引。

4.2 优化范围查询

降低单次查询范围,分多次查询:

select * from t1 where b>=1 and b <=1000;

select * from t1 where b>=1001 and b <=2000;

查看执行计划(就只看第一条的,第二条同理):

mysql> explain select * from t1 where b>=1 and b <=1000;

因此,降低查询范围后,能正常使用索引。

经验分享:

实际这种范围查询而导致使用不了索引的场景经常出现,比如按照时间段抽取全量数据,每条SQL抽取一个月的;或者某张业务表历史数据的删除。遇到此类操作时,应该在执行之前对SQLexplain分析,确定能走索引,再进行操作,否则不但可能导致操作缓慢,在做更新或者删除时,甚至会导致表所有记录锁住,十分危险。

5、计算操作

5.1 查询条件进行计算操作的 SQL 执行效率

有时我们与有对条件字段做计算操作的需求,在使用 SQL 查询时,就应该小心了。先看下例:

 explain select * from t1 where b-1 =1000;

原因:对索引字段做运算将使用不了索引。

5.2 计算操作的 SQL 优化

这个没有什么好办法,只能避免吧,或者你可以尝试创建一个索引来覆盖表达式 b-1,

ALTER TABLE t1 ADD COLUMN b_minus_1 INT AS (b-1);

CREATE INDEX idx_b_minus_1 ON t1 (b_minus_1);

然后测试一下

EXPLAIN select * from t1 where b-1 =1000;

经验分享:

一般需要对条件字段做计算时,建议通过程序代码实现,而不是通过MySQL实现。如果在MySQL中计算的情况避免不了。

6 总结

本节讲解几种条件字段有索引,但是使用不了索引的场景。因此在写 SQL 时应该注意这些点:

  • 应该避免隐式转换

  • like查询不能以%开头

  • 范围查询时,包含的数据比例不能太大

  • 不建议对条件字段做运算及函数操作

本节涉及到的一些SQL优化如下图:

7 问题

你在工作中有遇到哪些索引失效情况,可以在评论区讨论

8、本篇参考

MySQL 5.7参考手册

https://dev.mysql.com/doc/refman/5.7/en/type-conversion.html

  • 15
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值