进阶篇
索引
1 索引概述
索引是帮助 MySQL 高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查询算法,这种数据结构就是索引。
2 优点、缺点
优点:
提高数据检索效率,降低数据库的IO成本
通过索引列对数据进行排序,降低数据排序的成本,降低CPU的消耗
缺点:
索引列也是要占用空间的
索引大大提高了查询效率,但降低了更新的速度,比如 INSERT、UPDATE、DELETE
3 索引结构(B+,Hash)
3.1 二叉树
3.2 红黑树
红黑树也存在大数据量情况下,层级较深,检索速度慢的问题。
3.3 B树
B-Tree (多路平衡查找树) 以一棵最大度数(max-degree,指一个节点的子节点个数)为5(5阶)的 b-tree 为例(每个节点最多存储4个key,5个指针)
3.4 B+树
与 B-Tree 的区别:
所有的数据都会出现在叶子节点
叶子节点形成一个单向链表
3.5 hash
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中。
如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。
Hash索引只能用于对等比较(=、in),不支持范围查询(betwwn、>、<、…)
4 面试题:为什么 InnoDB 存储引擎选择使用 B+Tree 索引结构
相对于二叉树,层级更少,搜索效率高
- 对于 B-Tree,B-Tree无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针也跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低
- 相对于 Hash 索引,B+Tree 支持范围匹配及排序操作(页子节点用单向指针连接)
5 索引分类(主键索引,唯一索引,普通索引)
在 InnoDB 存储引擎中,根据索引的存储形式,又可以分为以下两种:
5.1 回表
6 索引语法
6.1 创建索引
CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name, …);
如果不加 CREATE 后面不加索引类型参数,则创建的是常规索引
6.2 查看索引
SHOW INDEX FROM table_name;
6.3 删除索引
DROP INDEX index_name ON table_name;
7 sql 性能分析
7.1 查看执行频次
SHOW GLOBAL STATUS LIKE 'Com_______';
7.2 慢查询 (默认关闭)
开启慢查询(默认关闭):
查询慢查询sql:
7.3 性能分析 explain (type/possible_key/key/rows)
EXPLAIN sql语句;
EXPLAIN 各字段含义:
id | select 查询的序列号,表示查询中执行 select 子句或者操作表的顺序(id相同,执行顺序从上到下;id不同,值越大越先执行) |
select_type | 表示 SELECT 的类型,常见取值有 SIMPLE(简单表,即不适用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、UNION(UNION中的第二个或者后面的查询语句)、SUBQUERY(SELECT/WHERE之后包含了子查询)等 |
type | 表示连接类型,性能由好到差的连接类型为 NULL、system、const、eq_ref、ref、range、index、all(NULL查询的时候不访问表可以达到,system访问系统表的时候可以达到,const唯一索引、主键索引可以达到,ref非唯一索引可以达到,all全表扫描) |
possible_key | 可能应用在这张表上的索引,一个或多个 |
Key | 实际使用的索引,如果为 NULL,则没有使用索引 |
Key_len | 表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好 |
rows | MySQL认为必须要执行的行数,在InnoDB引擎的表中,是一个估计值,可能并不总是准确的 |
filtered | 表示返回结果的行数占需读取行数的百分比,filtered的值越大越好 |
type值 | 场景 |
---|---|
type = NULL,MYSQL不用访问表或者索引就直接能到结果。 | |
type = const/system,单表中最多只有一条匹配行。例如根据主键或者唯一索引进行的查询。 | explain select * from film where film_id = 1 |
type = eq_ref,相对于ref来说就是使用的是唯一索引,对于每个索引键值,只有唯一的一条匹配记录(在联表查询中使用primary key或者unique key作为关联条件) | explain select * from film a ,film_text b where a.film_id = b.film_id(在film和film_text中film_id都是主键,即都是唯一索引) |
type = ref ,使用非唯一性索引或者唯一索引的前缀扫描,返回匹配某个单独值的记录行。 | explain select * from payment where customer_id = 350(使用非唯一性索引customer_id单表查询) |
type = range ,索引范围扫描,常见于<、<=、>、>=、between等操作符(因为customer_id是索引,所以只要查找索引的某个范围即可,通过索引找到具体的数据) | explain select * from payment where customer_id > 300 and customer_id < 350 |
type = index,索引全扫描,MYSQL遍历整个索引来查找匹配的行。(虽然where条件中没有用到索引,但是要取出的列title是索引包含的列,所以只要全表扫描索引即可,直接使用索引树查找数据) | explain select title from film |
type = ALL,全表扫描 |
8 索引使用原则
8.1 联合索引
使用表中的多个字段创建索引,就是 联合索引,也叫 组合索引 或 复合索引。
最左前缀法则
如果索引关联了多列(联合索引),要遵守最左前缀法则,最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。
如果跳跃某一列,索引将部分失效(后面的字段索引失效)。
最左前缀法则注意事项(范围查找)
联合索引中,出现范围查询(<, >),范围查询右侧的列索引失效。可以用>=或者<=来规避索引失效问题。
举例:
联合索引(a,b,c),条件为a=? and b>? and c=? 索引生效(a,b),但是条件为a=? and b>=? and c=? 索引生效(a,b,c)
更多demo
索引下推
在搜索引擎中提前判断对应的搜索条件是否满足,满足了再去回表,通过减少回表次数进而提高查询效率。
使用一张用户表tuser,表里创建联合索引(name, age)。
如果现在有一个需求:检索出表中名字第一个字是张,而且年龄是10岁的所有用户。那么,SQL语句是这么写的:
select * from tuser where name like ‘张%’ and age=10;
索引结构:
没有索引下推
有索引下推
除此之外我们还可以看一下执行计划,看到Extra一列里 Using index condition
,这就是用到了索引下推。
8.2 覆盖索引
覆盖索引即需要查询的字段正好是索引的字段,那么直接根据该索引,就可以查到数据了,而无需回表查询。
尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能找到),减少 select *。
explain 中 extra 字段含义:
using where; using index; | 查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询 |
using index condition | 查找使用了索引,但是需要回表查询数据 |
如果在聚集索引中直接能找到对应的行,则直接返回行数据,只需要一次查询;如select id, name from xxx where name=‘xxx’;,也只需要通过辅助索引(name)查找到对应的id,返回name和name索引对应的id即可,只需要一次查询;如果是通过辅助索引查找其他字段,则需要回表查询,如select id, name, gender from xxx where name=‘xxx’;
所以尽量不要用select *,容易出现回表查询,降低效率,除非有联合索引包含了所有字段
面试题: 一张表,有四个字段(id, username, password, status),由于数据量大,需要对以下SQL语句进行优化,该如何进行才是最优方案:
select id, username, password from tb_user where username=‘itcast’;
解:给username和password字段建立联合索引,则不需要回表查询,直接覆盖索引
8.3 前缀索引
当字段类型为字符串(varchar, text等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO,影响查询效率,此时可以只降字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。
8.3.1语法
create index idx_xxxx on table_name(columnn(n));
8.3.2 前缀长度
可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。
求选择性公式:
select count(distinct email) / count() from tb_user; //越接近1越合适
select count(distinct substring(email, 1, 5)) / count() from tb_user;
show index 里面的sub_part可以看到接取的长度
8.3.3 前缀索引使用过程
- 建立索引列
idx_email
(email 的前5个字符) - 从索引
idx_email
中找到第一个值为 lvbu6 的记录;由于是二级索引,叶子结点保存的是主键值,所以此时拿到了主键 id 为 1。 - 拿着主键 id 去回表,在主键索引上找到 id 为 1 的行的完整记录,返回给 server 层。
- server 层判断其 email 是不是 lvbu666@163.com(所以执行计划的 Extra 为 Using where)。
如果是,将该记录加入结果集。
如果不是,这行记录丢弃。 - 索引叶子结点上数据之间是有单向链表维系的,所以接着第一步查找的结果,继续向后读取下一条记录,然后重复 2、3、4 步,直到在
idx_email
上取到的值不为 lvbu6 时,循环结束。
8.4 SQL 提示(sql指定索引)
是优化数据库的一个重要手段,简单来说,就是在SQL语句中加入一些人为的提示来达到优化操作的目的。
例如,使用索引:
explain select * from tb_user use index(idx_user_pro) where profession=“软件工程”;
不使用哪个索引:
explain select * from tb_user ignore index(idx_user_pro) where profession=“软件工程”;
必须使用哪个索引:
explain select * from tb_user force index(idx_user_pro) where profession=“软件工程”;
use 是建议,实际使用哪个索引 MySQL 还会自己权衡运行速度去更改,force就是无论如何都强制使用该索引。
9 索引设计原则
- 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引
- 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高(如果索引列不能存储NULL值,请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪个索引最有效地用于查询)
- 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率
- 如果是字符串类型的字段,字段长度较长,可以针对于字段的特点,建立前缀索引
- 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价就越大,会影响增删改的效率
9.2索引失效情况
- 在索引列上进行运算操作,索引将失效。如:explain select * from tb_user where substring(phone, 10, 2) = ‘15’;
- 字符串类型字段使用时,不加引号,索引将失效。如:explain select * from tb_user where phone = 17799990015;,此处phone的值没有加引号
- 模糊查询中,如果仅仅是尾部模糊匹配,索引不会是失效;如果是头部模糊匹配,索引失效。如:explain select * from tb_user where profession like ‘%工程’;,前后都有 % 也会失效。
- 用 or 分割开的条件,如果 or 两侧条件其中一个条件没有索引,那么涉及的索引都不会被用到;如果两侧条件都有索引,索引生效。可以使用union all来代替(union 不包含重复行,union all 包含重复行)
- limit 1
- 如果 MySQL 评估使用索引比全表更慢,则不使用索引。
6.1 IN肯定会走索引,但是当IN的取值范围较大时会导致索引失效,走全表扫描。如果使用了 not in,则不走索引。
6.2 is null/ is not null走不走索引取决于表中数据
如果条件is null,表中大部分数据都是null,则不走索引,表中的大部分数据都不是null,走索引。
如果条件is not null,表中大部分数据都不是null,则不走索引,表中的大部分数据都是null,走索引。
视频链接:https://www.bilibili.com/video/BV1Kr4y1i7ru?p=87&spm_id_from=pageDriver&vd_source=b901ef0e9ed712b24882863596eab0ca
索引下推:https://baijiahao.baidu.com/s?id=1716515482593299829&wfr=spider&for=pc
前缀索引:https://blog.csdn.net/wdjnb/article/details/122880079
explain.type:https://blog.csdn.net/qq_27676247/article/details/79387637