一、索引概述
索引(index)是帮助MysQL高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。
优缺点(以空间换时间):
二、索引结构
MySQL的索引是在存储引擎层实现的,不同的存储引擎有不同的结构,主要包含以下几种:
一般常说的所以就是指B+树索引。
1.二叉树
二叉树缺点:顺序插入时,会形成一个链表,查询性能大大降低。大数据量情况下,层级较深,检索速度慢。
红黑树:大数据量情况下,层级较深,检索速度慢。
2.B Tree(多路平衡查找树)
以一颗最大度数(max-degree)为5(5阶)的b-tree为例(每个节点最多存储4个key,5个指针):
3.B+Tree
以一颗最大度数( max-degree)为4(4阶)的b+tree为例:
相对于B-Tree区别:
- 所有的数据都会出现在叶子节点
- 叶子节点形成一个单向链表
MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的B+Tree,提高区间访问的性能。
4.Hash
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中。
如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。
Hash索引特点:
- Hash索引只能用于对等比较(=,in),不支持范围查询(between,>,<,…)
- 无法利用索引完成排序操作
- 查询效率高,通常只需要一次检索就可以了,效率通常要高于B+tree索引
在MysQL中,支持hash索引的是Memory引擎,而InnoDB中具有自适应hash功能,hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。
为什么InnoDB存储引擎选择使用B+tree索引结构?
- 相对于二叉树,层级更少,搜索效率高;
- 对于B-tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低,若要进行范围查询,要进行多次回溯,IO开销大;
- 相对Hash索引,B+tree支持范围匹配及排序操作;
三、索引分类
主键索引:一张表只能有一个主键索引,主键索引列不能有空值和重复值
唯一索引:唯一索引不能有相同值,但允许为空
普通索引:允许出现重复值
组合索引:对多个字段建立一个联合索引,减少索引开销,遵循最左匹配原则
全文索引:myisam引擎支持,通过建立倒排索引提升检索效率,广泛用于搜索引擎
在lnnoDB存储引擎中,根据索引的存储形式,又可以分为以下两种:
聚集索引选取规则:
- 如果存在主键,主键索引就是聚集索引。
- 如果不存在主键,将使用第一个唯一(UNIQUE)索引作为聚集索引。
- 如果表没有主键,或没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚集索引。
-
聚簇索引:聚簇索引的叶子节点存放的是主键值和数据行;辅助索引(在聚簇索引上创建的其它索引)的叶子节点存放的是主键值或指向数据行的指针。
-
优点:根据索引可以直接获取值,所以他获取数据更快;对于主键的排序查找和范围查找效率更高;
-
缺点:如果主键值很大的话,辅助索引也会变得很大;如果用uuid作为主键,数据存储会很稀疏;修改主键或乱序插入会让数据行移动导致页分裂;所以一般我们定义主键时尽量让主键值小,并且定义为自增和不可修改。
-
非聚簇索引(辅助索引):叶子节点存放的是数据行地址,先根据索引找到数据地址,再根据地址去找数据
-
他们都是B+树结构
四、索引语法
- 创建索引
CREATE [UNIQUE|FULLTEXT] INDEX index_name ON table_name ( index_col_name,...);
- 查看索引
SHOW INDEX FROM table_name ;
- 删除索引
DROP INDEX index_name ON table_name ;
五、SQL性能分析
1.SQL执行频率
MySQL客户端连接成功后,通过show [session|global] status
命令可以提供服务器状态信息。
通过如下指令,可以查看当前数据库的INSERT、UPDATE、DELETE、SELECT的访问频次:
SHOW GLOBAL STATUS LIKE 'Com_______'
2.慢查询日志
慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有5QL语句的日志。
MySQL的慢查询日志默认没有开启,需要在MySQL的配置文件(/etc/my.cnf)中配置如下信息:
- 开启MySQL慢日志查询开关
slow_query_log=1
- 设置慢日志的时间为2秒,SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time=2
配置完毕之后,通过以下指令重新启动MySQL服务器进行测试,查看慢日志文件中记录的信息/var/lib/mysql/localhost-slow.log。
慢查询状态查询语句:
show variables like 'slow_query_1og';
打开慢查询语句:
set global slow_query_log = 'ON';
3.profile详情
show profiles能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。
通过have_profiling参数,能够看到当前MySQL是否支持profile操作:
SELECT @@have_profiling;
默认profiling是关闭的,可以通过set语句在session/global级别开启profiling:
SET profiling=1;
执行一系列的业务SQL的操作,然后通过如下指令查看指令的执行耗时:
#查看每一条SQL的耗时基本情况
show profiles;
#查看指定query_id的SQL语句各个阶段的耗时情况
show profile for query query_id;
#查看指定query_id的SQL语句CPU的使用情况
show profile cpu for query query_id;
4.explain执行计划
EXPLAIN或者DESC命令获取MySQL如何执行SELECT语句的信息,包括在SELECT语句执行过程中表如何连接和连接的顺序。
语法:
#直接在select语句之前加上关键字explain / desc
EXPLAIN SELECT 字段列表 FROM 表名 WHERE 条件;
EXPLAIN 执行计划各字段含义:
- ld
select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下; id不同,值越大,越先执行)。 - select_type
表示SELECT的类型,是普通查询还是联合查询还是子查询,常见的取值有SIMPLE(简单表,即不使用表连接或者子查询〉、PRIMARY(主查询,即外层的查询)、UNION(UNION中的第二个或者后面的查询语句)、SUBQUERY (SELECT/WHERE之后包含了子查询)等。 - table
这一行的数据是属于哪一张表的。 - type
表示连接类型,性能由好到差的连接类型为NULL(不访问表)、system(系统表)、const(主键索引、唯一索引,查询结果只有一行)、eq_ref(使用唯一索引进行关联查询)、ref(非唯一性索引的关联查询)、range(范围索引扫描)、index(全索引扫描,我们的需要的数据在索引中可以获取)、all(全表扫描) 。 - possible_key
显示可能应用在这张表上的索引,一个或多个,可能为null(如果用了索引但是为null有可能是表数据太少innodb认为全表扫描更快)。 - Key
实际使用的索引,如果为NULL,则没有使用索引。 - ref
编号,显示索引的哪一行被使用了 - Key_len
表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好。 - rows
MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的。 - filtered
表示返回结果的行数占需读取行数的百分比,filtered 的值越大越好。 - excess
MySQL如何查询额外信息,常见的有:- Using filesort:排序时使用外部排序而不是索引排序,需要回表查询数据,然后在排序缓冲区中进行排序
- backward index scan:排序时使用了索引排序,但如果是按照降序排序的话就会使用反向扫描索引
- Using index:表示使用覆盖索引(覆盖索引:如果key中显示有索引,select后面查询的字段都可以从通过这个索引获取)
- Using temporary:查询时要建立一个临时表(缓存)存放数据
六、索引的使用
-
最左前缀法则
如果索引了多列(联合索引),要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。如果跳跃某一列,索引将部分失效(后面的字段索引失效)。 -
范围查询
联合索引中,出现范围查询(>,<),范围查询右侧的列索引失效,所以尽量使用(>=,<=)。 -
索引列运算
不要在索引列上进行运算操作,索引将失效。 -
字符串不加引号
字符串类型字段使用时,不加引号,索引将失效。 -
模糊查询
如果仅仅是尾部模糊匹配,索引不会失效。如果是头部模糊匹配,索引失效。
注意:如果最左索引为整形时,like '11%'照样会失效,varchar类型不会。 -
or连接的条件
用or分割开的条件,如果or前的条件中的列有索引,而后面的列中没有索引,那么涉及的索引都不会被用到。 -
数据分布影响
如果MySQL评估使用索引比全表更慢,则不使用索引。
is null 和 is not null 不一定走不走索引。 -
SQL提示
SQL提示,是优化数据库的一个重要手段,简单来说,就是在5QL语句中加入一些人为的提示来达到优化操作的目的。#建议使用指定索引(MySQL可能不接受你的建议) use index #不使用指定索引 ignore index #必须使用指定索引 force index
-
覆盖索引
尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到),减少select *
。
using index condition
:查找使用了索引,但是需要回表查询数据;
using where; using index
:查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询数据。 -
前缀索引
当字段类型为字符串(varchar,tex等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘lO,影响查询效率。此时可以只将字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。
语法:create index idx_xxoxx on table_name(column(n)) ;
前缀长度:
可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。select count(distinct email) / count(*) from tb_user ; select count(distinct substring(email,1,5)) / count(*) from tb_user ;
-
单列索引与联合索引
单列索引:即一个索引只包含单个列。
联合索引:即一个索引包含了多个列。
在业务场景中,如果存在多个查询条件,考虑针对于查询字段建立索引时,建议建立联合索引而非单列索引。
多条件联合查询时,MySQL优化器会评估哪个字段的索引效率更高,会选择该索引完成本次查询。
索引失效情况:
-
where条件中有or,除非所有查询条件都有索引,否则失效
-
like查询用%开头,索引失效
-
索引列参与计算,索引失效
-
违背最左匹配原则,索引失效
-
索引字段发生类型转换,索引失效
-
mysql觉得全表扫描更快时(数据少),索引失效
七、索引的建立
- 针对于数据量较大,且查询比较频繁的表建立索引。(>100万)
- 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引。
- 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高
- 如果是字符串类型的字段,字段的长度较长,可以针对于字段的特点,建立前缀索引。
- 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率。
- 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价也就越大,会影响增删改的效率。
- 如果索引列不能存储NULL值,请在创建表时使用NOTNULL约束它。当优化器知道每列是否包含NULL值时,它可以更好地确定哪个索引最有效地用于查询。