MySQL 索引的数据结构及优化实战

1、索引

1.1 简介

索引是帮助MySQL高效获取数据的排好序的数据结构，相当于目录

每一个节点对应了一条数据，一个内存地址

1.2 索引的数据结构为什么是B+Tree和HASH？

1.2.1 二叉树

二叉树（Binary Tree）是有限个节点的集合，这个集合可以是空集，也可以是一个根节点和两颗不相交的子二叉树组成的集合，其中一颗树叫根的左子树，另一颗树叫右子树。所以二叉树是一个递归地概念。

• 只有左子节点和右子节点，每次出现自增会一直往右延伸，变成链表。
• 高度会特别高，和磁盘做交互效率较慢，
• 索引按页来查询，每页相当于这里一排
  

1.2.2 红黑树

属于二叉树的一种，多了自平衡，层级会很高（树的深度会很深）交互会较频繁

而且每次自平衡，会有自身的一个重新排序，插入效率较低
红黑树的特性
（1）每个节点或者是黑色，或者是红色。
（2）根节点是黑色。
（3）每个叶子节点（NIL）是黑色。
（4）如果一个节点是红色的，则它的子节点必须是黑色的。[注意：这里叶子节点，是指为空(NIL)的虚节点！]
（5）从一个节点到该节点的子孙节点的所有路径上包含相同数目的黑节点。

1.2.3 B-Tree

• 叶节点具有相同的深度，叶节点的指针为空
• 所有索引元素不重复
• 节点中的数据索引从左到右递增排列节点中的数据索引从左到右递增排列
• 可以将数字看成自增的主键id，data相当于除主键之外的其他数据
• 每次加载一页的时候，需要把一整行数据(主键+其他数据)都加载到内存中，但我们其实不需要data
• 相对来说耗费IO和内存空间

1.2.4 B+Tree(B-Tree变种)

• 非叶子节点不存储data，只存储索引(冗余)，可以放更多的索引
• 叶子节点包含所有索引字段
• 叶子节点用指针连接，提高区间访问的性能
• 和内存交互的时候只需要将叶子结点的索引存储在内存中，
• 一个数字8b，指针4b，一页16K相当于16384b，可以存储1365+个
• 与数据库交互最多三次就能检索到你需要的数据在磁盘的哪个位置

1.2.5 Hash

• 对索引的key进行一次hash计算就可以定位出数据存储的位置
• 很多时候Hash索引要比B+ 树索引更高效，时间复杂度O1
• 仅能满足 “=”，“IN”，不支持范围查询（比如时间范围查询）
• hash冲突问题

1.3 索引的类型

1.3.1 MySQL的存储引擎

1.3.1.1 InnoDB存储引擎索引实现(聚集)

• 表数据文件本身就是按B+Tree组织的一个索引结构文件
• 聚集索引-叶节点包含了完整的数据记录
• 为什么建议InnoDB表必须建主键，并且推荐使用整型的自增主键？（减少二级索引查找一级索引的过程）
• 我们设计完主键之后，会自动生成主键索引树Primary Key（哪怕没有设置主键，Mysql会自己找一个没有重复的字段作为主键）
• 为什么非主键索引结构叶子节点存储的是主键值？(一致性和节省存储空间)
• 我们在数据库中创建的索引都是二级索引，会通过我们创建的索引字段，找到一个id（一级索引的id），在通过这个id在主键索引中找数据（回表）

1.3.1.2 MyISAM存储引擎索引实现(非聚集)

MyISAM索引文件和数据文件是分离的(非聚集)

一个文件专门存储索引在另一个文件中的位置，检索较慢

1.3.1.3 联合索引

索引最左前缀原理：第一优先根据索引设置的时候字段顺序排序

1.4 索引使用的情况

1.4.1 EXPLAIN关键字

EXPLAIN SELECT	* FROM`user`WHERE id = 1

字段名	含义
id	sql的执行顺序
select_type	查询难度
table	表名
type	const(常量)、eqref(通过主键索引查找)、ref(通过非主键索引查找)、range(范围查询)、ALL(全表扫描)
possible_keys	可能用到的索引
key	真实用到的索引
key_len	索引的长度（用来判断索引的效率）
rows	行（索引扫的行数）

type
访问类型，sql查询优化中一个很重要的指标，结果值从好到坏依次是：

system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL

一般来说，好的sql查询至少达到range级别，最好能达到ref

1、system：表只有一行记录（等于系统表），这是const类型的特例，平时不会出现，可以忽略不计

2、const：表示通过索引一次就找到了，const用于比较primary key 或者 unique索引。因为只需匹配一行数据，所有很快。如果将主键置于where列表中，mysql就能将该查询转换为一个const

3、eq_ref：唯一性索引扫描，对于每个索引键，表中只有一条记录与之匹配。常见于主键 或 唯一索引扫描。

4、ref：非唯一性索引扫描，返回匹配某个单独值的所有行。本质是也是一种索引访问，它返回所有匹配某个单独值的行，然而他可能会找到多个符合条件的行，所以它应该属于查找和扫描的混合体

5、range：只检索给定范围的行，使用一个索引来选择行。key列显示使用了那个索引。一般就是在where语句中出现了bettween、<、>、in等的查询。这种索引列上的范围扫描比全索引扫描要好。只需要开始于某个点，结束于另一个点，不用扫描全部索引

6、index：Full Index Scan，index与ALL区别为index类型只遍历索引树。这通常为ALL块，应为索引文件通常比数据文件小。（Index与ALL虽然都是读全表，但index是从索引中读取，而ALL是从硬盘读取）

7、ALL：Full Table Scan，遍历全表以找到匹配的行

1.5 索引失效的情况

1.5.1 为什么主键要设置成自增的？

UUID：随机插入，所有索引在B+数中位置都需要重新排序，导致分裂，效率越来越慢，数据碎片化。

自增：在B+数的最后面存储，仅会影响到它的父节点。

1.5.2 建表上的优化

• 设计表字段类型

• 不同的int有不同的表示范围

• 根据表对应的业务场景，主键自增的趋势，用所占磁盘空间最小的类型

• 数字：

  id一般使用bigint，如果仅需要表示几种状态，可以用tinyint（表示范围更小，占得空间也越小）

  除了varchar，其他类型设置长度其实没有意义，所占内存是定长的

• 文字：

  char和varchar的区别：char为定长，varchar是可变的

  针对大量的文字时使用text/longtest类型存储，优化策略：垂直分表，将Test字段单独分出去，关联主表

• 时间：

  datetime：都可以显示时分秒，占用空间更多

  timestamp：都可以显示时分秒，占用空间更少，缺陷有默认数据范围，只能存放1979-2050年的数据

1.5.3 索引失效的案例

• 针对联合索引，要遵循最左前缀原则，
• 查询条件按照索引设置时字段的顺序
• 范围查询要在精准查询之后
• 使用like模糊查询时，尽量将%写在右侧

2、建表规约（阿里巴巴开发手册）

2.1【强制】表达是与否概念的字段，必须使用 is_xxx 的方式命名，数据类型是 unsigned tinyint（1 表示是，0 表示否）。

说明：任何字段如果为非负数，必须是 unsigned。

注意：POJO 类中的任何布尔类型的变量，都不要加 is 前缀，所以，需要在设置从 is_xxx 到

Xxx 的映射关系。数据库表示是与否的值，使用 tinyint 类型，坚持 is_xxx 的命名方式是为了明确其取值含

义与取值范围。

正例：表达逻辑删除的字段名 is_deleted，1 表示删除，0 表示未删除。

2.2【强制】表名、字段名必须使用小写字母或数字，禁止出现数字开头，禁止两个下划线中间只出现数字。数据库字段名的修改代价很大，因为无法进行预发布，所以字段名称需要慎重考虑。

说明：MySQL 在 Windows 下不区分大小写，但在 Linux 下默认是区分大小写。因此，数据库名、表名、

字段名，都不允许出现任何大写字母，避免节外生枝。

正例：aliyun_admin，rdc_config，level3_name

反例：AliyunAdmin，rdcConfig，level_3_name

2.3【强制】表名不使用复数名词。

说明：表名应该仅仅表示表里面的实体内容，不应该表示实体数量，对应于 DO 类名也是单数形式，符合

表达习惯。

2.4【强制】禁用保留字，如 desc、range、match、delayed 等，请参考 MySQL 官方保留字。

2.5【强制】主键索引名为 pk_字段名；唯一索引名为 uk_字段名；普通索引名则为 idx_字段名。

说明：pk_ 即 primary key；uk_ 即 unique key；idx_ 即 index 的简称。

2.6【强制】小数类型为 decimal，禁止使用 float 和 double。

说明：在存储的时候，float 和 double 都存在精度损失的问题，很可能在比较值的时候，得到不正确的

结果。如果存储的数据范围超过 decimal 的范围，建议将数据拆成整数和小数并分开存储。

2.7【强制】如果存储的字符串长度几乎相等，使用 char 定长字符串类型。

2.8【强制】varchar 是可变长字符串，不预先分配存储空间，长度不要超过 5000，如果存储长度大于此值，定义字段类型为 text，独立出来一张表，用主键来对应，避免影响其它字段索引效率。

2.9【强制】表必备三字段：id, gmt_create, gmt_modified。

说明：其中 id 必为主键，类型为 bigint unsigned、单表时自增、步长为 1。gmt_create, gmt_modified

的类型均为 datetime 类型，前者现在时表示主动式创建，后者过去分词表示被动式更新。Java 开发手册

2.10【推荐】表的命名最好是遵循“业务名称_表的作用”。

正例：alipay_task / force_project / trade_config

2.11.【推荐】库名与应用名称尽量一致。

2.12【推荐】如果修改字段含义或对字段表示的状态追加时，需要及时更新字段注释。

2.13【推荐】字段允许适当冗余，以提高查询性能，但必须考虑数据一致。冗余字段应遵循：

• 1） 不是频繁修改的字段。
• 2） 不是唯一索引的字段。
• 3） 不是 varchar 超长字段，更不能是 text 字段。

正例：各业务线经常冗余存储商品名称，避免查询时需要调用 IC 服务获取。

2.14【推荐】单表行数超过 500 万行或者单表容量超过 2GB，才推荐进行分库分表。

说明：如果预计三年后的数据量根本达不到这个级别，请不要在创建表时就分库分表。

2.15【参考】合适的字符存储长度，不但节约数据库表空间、节约索引存储，更重要的是提升检索速度。

正例：无符号值可以避免误存负数，且扩大了表示范围。

对象	年龄区间	类型	字节	表示范围
人	150 岁之内	tinyint unsigned	1	无符号值：0 到 255
龟	数百岁	smallint unsigned	2	无符号值：0 到 65535
恐龙化石	数千万年	int unsigned	4	无符号值：0 到约 43 亿
太阳	约 50 亿年	bigint unsigned	8	无符号值：0 到约 10 的 19 次方

3、索引规约（阿里巴巴开发手册）

3.1【强制】业务上具有唯一特性的字段，即使是组合字段，也必须建成唯一索引。

说明：不要以为唯一索引影响了 insert 速度，这个速度损耗可以忽略，但提高查找速度是明显的；另外，

即使在应用层做了非常完善的校验控制，只要没有唯一索引，根据墨菲定律，必然有脏数据产生。

3.2【强制】超过三个表禁止 join。需要 join 的字段，数据类型保持绝对一致；多表关联查询时，

保证被关联的字段需要有索引。

说明：即使双表 join 也要注意表索引、SQL 性能。

3.3【强制】在 varchar 字段上建立索引时，必须指定索引长度，没必要对全字段建立索引，根据实际文本区分度决定索引长度。

说明：索引的长度与区分度是一对矛盾体，一般对字符串类型数据，长度为 20 的索引，区分度会高达 90%

以上，可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。

3.4【强制】页面搜索严禁左模糊或者全模糊，如果需要请走搜索引擎来解决。

说明：索引文件具有 B-Tree 的最左前缀匹配特性，如果左边的值未确定，那么无法使用此索引。

3.5【推荐】如果有 order by 的场景，请注意利用索引的有序性。order by 最后的字段是组合索

引的一部分，并且放在索引组合顺序的最后，避免出现 file_sort 的情况，影响查询性能。

正例：where a=? and b=? order by c; 索引：a_b_c

反例：索引如果存在范围查询，那么索引有序性无法利用，如：WHERE a>10 ORDER BY b; 索引 a_b 无

法排序。

3.6【推荐】利用覆盖索引来进行查询操作，避免回表。

说明：如果一本书需要知道第 11 章是什么标题，会翻开第 11 章对应的那一页吗？目录浏览一下就好，这

个目录就是起到覆盖索引的作用。

正例：能够建立索引的种类分为主键索引、唯一索引、普通索引三种，而覆盖索引只是一种查询的一种效

果，用 explain 的结果，extra 列会出现：using index。

3.7【推荐】利用延迟关联或者子查询优化超多分页场景。

说明：MySQL 并不是跳过 offset 行，而是取 offset+N 行，然后返回放弃前 offset 行，返回 N 行，那当

offset 特别大的时候，效率就非常的低下，要么控制返回的总页数，要么对超过特定阈值的页数进行 SQL

改写。

正例：先快速定位需要获取的 id 段，然后再关联：

SELECT a.* FROM 表 1 a, (select id from 表 1 where 条件 LIMIT 100000,20 ) b where a.id=b.id

3.8【推荐】SQL 性能优化的目标：至少要达到 range 级别，要求是 ref 级别，如果可以是 consts最好。

说明：

• 1） consts 单表中最多只有一个匹配行（主键或者唯一索引），在优化阶段即可读取到数据。
• 2） ref 指的是使用普通的索引（normal index）。
• 3） range 对索引进行范围检索。

反例：explain 表的结果，type=index，索引物理文件全扫描，速度非常慢，这个 index 级别比较 range

还低，与全表扫描是小巫见大巫。

3.9【推荐】建组合索引的时候，区分度最高的在最左边。

正例：如果 where a=? and b=?，a 列的几乎接近于唯一值，那么只需要单建 idx_a 索引即可。

说明：存在非等号和等号混合判断条件时，在建索引时，请把等号条件的列前置。如：where c>? and d=?

那么即使 c 的区分度更高，也必须把 d 放在索引的最前列，即建立组合索引 idx_d_c。

3.10【推荐】防止因字段类型不同造成的隐式转换，导致索引失效。

3.11【参考】创建索引时避免有如下极端误解：

• 1） 索引宁滥勿缺。认为一个查询就需要建一个索引。
• 2） 吝啬索引的创建。认为索引会消耗空间、严重拖慢记录的更新以及行的新增速度。
• 3） 抵制惟一索引。认为惟一索引一律需要在应用层通过“先查后插”方式解决。

4、SQL语句（阿里巴巴开发手册）

4.1【强制】不要使用 count(列名)或 count(常量)来替代 count()，count()是 SQL92 定义的标准统计行数的语法，跟数据库无关，跟 NULL 和非 NULL 无关。

说明：count(*)会统计值为 NULL 的行，而 count(列名)不会统计此列为 NULL 值的行。

4.2【强制】count(distinct col) 计算该列除 NULL 之外的不重复行数，注意 count(distinct col1, col2) 如果其中一列全为 NULL，那么即使另一列有不同的值，也返回为 0。

4.3【强制】当某一列的值全是 NULL 时，count(col)的返回结果为 0，但 sum(col)的返回结果为NULL，因此使用 sum()时需注意 NPE 问题。

正例：可以使用如下方式来避免 sum 的 NPE 问题：

SELECT IFNULL(SUM(column), 0) FROM table;

4.4【强制】使用 ISNULL()来判断是否为 NULL 值。

说明：NULL 与任何值的直接比较都为 NULL。

• 1） NULL<>NULL 的返回结果是 NULL，而不是 false。
• 2） NULL=NULL 的返回结果是 NULL，而不是 true。
• 3） NULL<>1 的返回结果是 NULL，而不是 true。

反例：在 SQL 语句中，如果在 null 前换行，影响可读性。

select * from table where column1 is null and column3 is not null;

而ISNULL(column)是一个整体，简洁易懂。从性能数据上分析，ISNULL(column)执行效率更快一些。

4.5【强制】代码中写分页查询逻辑时，若 count 为 0 应直接返回，避免执行后面的分页语句。

4.6【强制】不得使用外键与级联，一切外键概念必须在应用层解决。

说明：（概念解释）学生表中的 student_id 是主键，那么成绩表中的 student_id 则为外键。如果更新学生表中的 student_id，同时触发成绩表中的 student_id 更新，即为级联更新。外键与级联更新适用于单机低并发，不适合分布式、高并发集群；级联更新是强阻塞，存在数据库更新风暴的风险；外键影响数据库的插入速度。

4.7【强制】禁止使用存储过程，存储过程难以调试和扩展，更没有移植性。

4.8【强制】数据订正（特别是删除或修改记录操作）时，要先 select，避免出现误删除，确认无误才能执行更新语句。Java 开发手册

4.9【强制】对于数据库中表记录的查询和变更，只要涉及多个表，都需要在列名前加表的别名（或表名）进行限定。

说明：对多表进行查询记录、更新记录、删除记录时，如果对操作列没有限定表的别名（或表名），并且

操作列在多个表中存在时，就会抛异常。

正例：

select t1.name from table_first as t1 , table_second as t2 where t1.id=t2.id;

反例：在某业务中，由于多表关联查询语句没有加表的别名（或表名）的限制，正常运行两年后，最近在某个表中增加一个同名字段，在预发布环境做数据库变更后，线上查询语句出现出 1052 异常：Column ‘name’ in field list is ambiguous。

4.10【推荐】SQL 语句中表的别名前加 as，并且以 t1、t2、t3、…的顺序依次命名。

说明：

• 1）别名可以是表的简称，或者是根据表出现的顺序，以 t1、t2、t3 的方式命名。
• 2）别名前加 as使别名更容易识别。

正例：

select t1.name from table_first as t1, table_second as t2 where t1.id=t2.id;

4.11【推荐】in 操作能避免则避免，若实在避免不了，需要仔细评估 in 后边的集合元素数量，控制在 1000 个之内。

4.12 【参考】因国际化需要，所有的字符存储与表示，均采用 utf8 字符集，那么字符计数方法需要注意。

• 说明：

  SELECT LENGTH("轻松工作")； 
  

• 返回为 12

  SELECT CHARACTER_LENGTH("轻松工作")； 
  

• 返回为 4

• 如果需要存储表情，那么选择 utf8mb4 来进行存储，注意它与 utf8 编码的区别。

【参考】TRUNCATE TABLE 比 DELETE 速度快，且使用的系统和事务日志资源少，但 TRUNCATE

无事务且不触发 trigger，有可能造成事故，故不建议在开发代码中使用此语句。

说明：TRUNCATE TABLE 在功能上与不带 WHERE 子句的 DELETE 语句相同。