MySql进阶篇（1）

一、存储引擎

1.1 MySql体系结构

• 连接层

最上层是一些客户端和链接服务，主要完成一些类似于连接处理、授权认证、及相关的安全方案。服务器也会为安全接入的每个客户端验证它所具有的操作权限。

• 服务层

第二层架构主要完成大多数的核心服务功能，如SOL接口，并完成缓存的查询，SOL的分析和优化，部分内置函数的执行。所有跨存储引擎的功能也在这一层实现，如
过程、函数等

• 引擎层

存储引擎真正的负责了MVSOL中数据的存储和提取，服务器通过AP和存储引擎进行通信。不同的存储引肇具有不同的功能，这样我们可以根据自己的需要，来选取合适的存储引擎。

• 存储层

主要是将数据存储在文件系统之上，并完成与存储引擎的交互。

1.2 存储引擎的简介

存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表的，而不是基于库的，所以存储引擎也可被称为表类型。

• 在创建表时，指定存储引擎

CREATE TABLE 表名(
字段1 字段1类型 [ COMMENT 字段1注释]
字段n 字段n类型 [COMMENT 字段n注释)ENGINE =INNODB [ COMMENT 表注释]:

• 查看当前数据库支持的存储引擎

SHOW ENGINES ;

1.3 存储引擎的特点

• 介绍
  InnoDB是一种兼顾高可靠性和高性能的通用存储引擎，在 MySQL5.5 之后，InnoDB是默认的 MySQL 存储引擎。
• 特点

1. DML操作遵循ACID模型，支持事务
2. 行级锁，提高并发访问性能;
3. 支持外FOREIGNKEY约束，保证数据的完整性和正确性

• 文件

xxxibd:xxx代表的是表名，innoDB引擎的每张表都会对应这样一个表空间文件，存储该表的表结构(frm、sdi)、数据和索引。参数:innodb_file_per_table

1.3.1 innoDB

1.3.2 MyISAM

• 介绍

MyISAM是MySQL早期的默认存储引擎

• 特点

不支持事务，不支持外键支持表锁，不支持行锁访问速度快

• 文件

1. xxx.sdi:存储表结构信息
2. xxXMYD:存储数据
3. xxx.MYI:存储索

1.3.3 Memory

• 介绍

Memorv引擎的表数据时存储在内存中的，由于受到硬件问题、或断电问题的影响，只能将这些表作为临时表或缓存使用

• 特点

• 内存存放
  hash索引(默认)

• 文件

xxx.sdi:存储表结构信息

1.3.4 上述总结

特点	InnoDB	MyISAM	Memory
存储限制	64TB	有	有
事务安全	支持	-	-
锁机制	行锁	表锁	表锁
B+tree索引	支持	支持	支持
Hash索引	-	-	支持
全文索引	高	低	N/A
空间使用	支持(5.6版本之后)	支持	-
内存使用	高	低	中等
批量插入速度	低	高	高
支持外键	支持	-	-

1.4 存储引擎的选择

在选择存储引擎时，应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统，还可以根据实际情况选择多种存储引擎进行组合

• innoDB:
  是Mysg的默认存储擎，支持事务、外键。如果应用对事务的完整性有比较高的要求，在并发条件下要求数据的一致性，数据操作除了插入和查询之外，还包含很多的更新、删除操作，那么InnoDB存储引擎是比较合适的选择。
• MVISAM :
  如果应用是以读操作和插入操作为主，只有很少的更新和州除操作，并且对事务的完整性、并发性要求不是很高，那么选择这个存储引擎是非常合适的。常用于日志，评论什么的
• MEMORY:
  将所有数据保存在内存中，访问速度快，通常用于临时表及缓存。MEMORY的缺陷就是对表的大小有限制，太大的表无法缓存在内存中，而且无法保障数据的安全性。

二、索引

2.1 索引的概述

索引(index)是帮助MySL高效获取数据的数据结构(有序)。在数据之外，数据库系统还维护着满足特定查找算法的数据结构，这些数据结构以某种方式引用(指向)数据， 这样就可以在这些数据结构上实现高级查找算法，这种数据结构就是索引。

优势	劣势
提高数据检索的效率，降低数据库的IO成本	索引列也是要占用空间的。
通过索引列对数据进行排序，降低数据排序的成本，降低CPU的消耗。	索引大大提高了查询效率，同时却也降低更新表的速度，如对表进行INSERT、UPDATE、DELETE时，效率降低

2.2 索引结构

索引的分类

索引结构	描述
B+Tree索引	最常见的索引类型，大部分引擎都支持 B+ 树索引
Hash索引	底层数据结构是用哈希表实现的,只有精确匹配索引列的查询才有效不支持范围查询
R-tree(空间索引)	空间索引是MyISAM引擎的一个特殊索引类型，主要用于地理空间数据类型，通常使用较少
Full-text(全文索引)	是一种通过建立倒排索引,快速匹配文档的方式。类似于Lucene,Solr,ES

索引支持情况

索引	InnoDB	MyISAM	Memory
B+tree索引	支持	支持	支持
Hash 索引	不支持	不支持	支持
R-tree 索引	不支持	支持	不支持
Full-text	5.6版本之后支持	支持	不支持

我们平常所说的索引，如果没有特别指明，都是指B+树结构组织的索引。

2.2.1 二叉树和红黑树

二叉树缺点: 顺序插入时，会形成一个链表，查询性能大大降低。大数据量情况下，层级较深，检索速度慢。

红黑树缺点：虽然解决了一个链表的问题，但是还是存在层级较深，检索速度慢的缺点

2.2.2 B-Tree（多路平衡查找树）

知识小贴士: 树的度数指的是一个节点的子节点个数

具体动态变化的过程可以参考的网站连接

2.2.3 B+Tree

相对于B-Tree区别

• 所有的数据都会出现在叶子节点
• 叶子节点形成一个单向链表

2.3 mysql下面的B+Tree

MySQL索引数据结构对经典的B+Tree进行了优化。在原B+Tree的基础上，增加一个指向相邻叶子节点的链表指针，就形成了带有顺序 指针的B+Tree，提高区间访问的性能。

2.4 Hash索引

• 哈希索引就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中
• 如果两个(或多个)键值，映射到一个相同的槽位上，他们就产生了hash冲突 (也称为hash碰撞)， 可以通过链表来解决

Hash索引特点

1. Hash索引只能用于对等比较(=，in)，不支持范围查询 (between，>，<，…)
2. 无法利用索引完成排序操作
3. 查询效率高，通常只需要一次检索就可以了，效率通常要高于B+tree索引

存储引擎支持：在MysQL中，支持hash索引的是Memory引擎，而nnoDB中具有自适应hash功能，hash索引是存储引擎根据B+Tree索引在指定条件下自动构建的。

为什么InnoDB存储引擎选择使用B+tree索引结构?

• 相对于二叉树，层级更少，搜索效率高;
• 对于B-tree，无论是叶子节点还是非叶子节点，都会保存数据，这样导致一页中存储的键值减少，指针跟着减少，要同样保存大量数据，只能增加树的高度，导致性能降低;
• 相对Hash索引，B+tree支持范围匹配及排序操作

2.5 索引的分类

分类	含义	特点	关键字
主键索引	针对于表中主键创建的索引	默认自动创建,只能有一个	PRIMARY
唯一索引	避免同一个表中某数据列中的值重复	可以有多个	UNIQUE
常规索引	快速定位特定数据	可以有多个
全文索引	全文索引查找的是文本中的关键词，而不是比较索引中的值	可以有多个	FULLTEXT

在InnoDB存储引擎中，根据索引的存储形式，又可以分为以下两种:

分类	含义	特点
聚集索引(Clustered Index)	将数据存储与索引放到了一块，索引结构的叶子节点保存了行数据	必须有,而且只有一个
二级索引(Secondary Index)	将数据与索引分开存储，索引结构的叶子节点关联的是对应的主键	可以存在多个

== 聚集索引选取规则:==

• 如果存在主键，主键索引就是聚集索引。
• 如果不存在主键，将使用第一个唯一(UNIQUE)索引作为聚集索引。
• 如果表没有主键，或没有合适的唯一索引，则innoDB会自动生成一个rowid作为隐藏的聚集索引。

执行 select * from user where name = 'Arm' 操作流程

会利用到回调查询

• 首先先通过Arm查询到其对应的ID值
• 再通过这个ID值返回到聚集索引查询到所有的值

思考题
InnoDB主键索引的B+Tree高度为多高呢?

假设:
一行数据大小为1k，一页中可以存储16行这样的数据。InnoDB的指针占用6个字节的空间，主键即使为bigint，占用字节数为8。

高度为2：
n*8 + (n + 1)6 = 161024,算出n约为1170
1171 *6 = 18736

高度为3：
1171 * 1171 * 16 = 21939856

2.6 索引的语法

• 创建索引
  CREATE [UNIQUE|FULLTEXT] INDEX index name ON table name (index col name.... ) ;
• 查看索引
  SHOW INDEX FROM table name ;
• 删除索引
  DROP INDEX index name ON table name ;

# 给姓名创建一个索引
create index idx_user_name on user(name);
# 有phone创建一个唯一索引
create unique index idx_user_phone on user(phone);
# 给profession,age,status创建一个联合索引
create index idx_user_pro_age_sta on user(profession,age,status);
# 给email创建一个索引
create index idx_user_ema on user(email);
# 删除email的索引
drop index idx_user_ema on user;

2.7 SQL性能分析

2.7.1 SQL的执行频率

MySQL 客户端连接成功后，通过 show sessionlglobal status
命令可以提供服务器状态信息。通过如下指令，可以查看当前数据库的 INSERT、UPDATE、DELETE、SELECT的访问频次:

SHOW GLOBAL STATUS LIKE 'Com_______';

2.7.2、索引-性能分析-show profiles

profile详情

show
profiles能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数，能够看到当前MySQL是否支持profile操作:

SELECT @@have_profiling;

默认profiling是关闭的，可以通过set语句在session/global级别开启profiling:

SET profiling = 1;

执行一系列的业务SQL的操作，然后通过如下指令查看指令的执行耗时:

#f查看每一条SQL的耗时基本情况
show profiles;
#查看指定query_id的SQL语句各个阶段的耗时情况
show profile for query query_id;
#查看指定query_id的SQL语句CPU的使用情况
show profile cpu for query query_id；

2.7.3、索引-性能分析-explain

• explain执行计划

EXPLAIN执行计划各字段含义：

• ld
  select查询的序列号，表示查询中执行select子句或者是操作表的顺序(id相同，执行顺序从上到下;id不同，值越大，越先执行)。

• select_type
  表示SELECT的类型，常见的取值有SIMPLE（简单表，即不使用表连接或者子查询)、PRIMARY（主查询，即外层的查询)、UNION(UNION中的第二个或者后面的查询语句）、SUBQERY (SELECT/WHERE之后包含了子查询）等

• type
  表示连接类型，性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、index、all

• possible_key
  显示可能应用在这张表上的索引，一个或多个。

• Key
  实际使用的索引，如果为NULL，则没有使用索引。

• Key_len
  表示索引中使用的字节数，该值为索引字段最大可能长度，并非实际使用长度，在不损失精确性的前提下，长度越短越好。

• rows
  MySQL认为必须要执行查询的行数，在innodb引擎的表中，是一个估计值，可能并不总是准确的。

• filtered
  表示返回结果的行数占需读取行数的百分比， filtered 的值越大越好。

2.7.4 验证索引效率

在未建立索引之前，执行如下SQL语句，查看SQL的耗时。

SELECT* FROM tb sku WHERE sn =100000003145001':

针对字段创建索引

create index idx sku sn on tb sku(sn) ;

然后再次执行相同的SQL语句，再次查看SQL的耗时。

SELECT* FROM tb sku WHER5 sn =100000003145001":

可以明显的发现，创建了索引过后执行的效率明显提升

2.8 索引-使用规则

2.8.1、最左前缀法则

如果索引了多列(联合索引)，要遵守最左前缀法则。最左前缀法则指的是查询从索引的最左列开始，并且不跳过索引中的列。如果跳跃某一列，索引将部分失效(后面的字段索引失效)。

范围查询

联合索引中，出现范围查询（>,<）范围查询右侧的索引失效

2.8.2、索引失效情况一

• 索引列运算

不要在索引列上进行运算操作，索引将失效

• 字符串不加引号

字符串类型字段使用时，不加引号，索引将失效

• 模糊查询

如果仅仅是尾部模糊匹配，索引不会失效。如果是头部模糊匹配，索引失效

2.8.3、索引失效情况二

• or连接的条件

用or分割开的条件，如果or前的额条件中的列有索引，而后面的列没有索引，那么涉及的索引都不会被用到

解决方案：对没有添加索引的列，添加上索引

• 数据分布影响

如果MySQL评估使用索引比全表更慢，则不使用索引

2.8.4、SQL提示

SQL提示，是优化数据库的一个重要手段，简单来说，就是在SQL语句中加入一些人为的提示来达到优化操作的目的

use index（告诉数据库要用的索引） :

explain select * from 表名 use index(使用的索引名) where 查询条件;

ignore index（告诉数据库不要用的索引）:

explain select *from 表名 ignore index(使用的索引名) where 查询条件;

force index（告诉数据库必须要用的索引）:

explain select * from 表名 force index(使用的索引名) where 查询条件;

2.8.5、覆盖索引&回表查询

覆盖索引

尽量使用覆盖索引（查询使用了索引，并且需要返回的列，在该索引中已经全部能够找到），减少select*

using index condition :查找使用了索引,但是需要回表查询数据
using where; using index :查找使用了索引，但是需要的数据都在索引列中能找到，所以不需要回表查询数据

2.8.6、前缀索引

当字段类型为字符串(varchar,
text等)时、有时候需要索引很长的字符串，这会让索引变得很大，查询时，浪费大量的磁盘l0，影响查询效率。此时可以只将字符串的一部分前缀，建立索引，这样可以大大节约索引空间，从而提高索引效率。

语法

create index idx _xxoxx on table_name(column(n)) ;

前缀长度

• 可以根据索引的选择性来决定，而选择性是指不重复的索引值〈基数）和数据表的记录总数的比值，索引选择性越高则查询效率越高
• 唯一索引的选择性是1，这是最好的索引选择性，性能也是最好的。

select count(distinct email) / count(*) from tb_user ;
select count(distinct substring(email,1,5)) / count(*) from tb_user ;

2.6.7、单列索引&联合索引

单列索引:即一个索引只包含单个列。

联合索引:即一个索引包含了多个列。

在业务场景中，如果存在多个查询条件，考虑针对于查询字段建立索引时，建议建立联合索引，而非单列索引

2.7、索引设计原则

• 针对于数据量较大，且查询比较频繁的表建立索引。
• 针对于常作为查询条件(where)、排序（order by)、分组(group by）操作的字段建立索引。
• 尽量选择区分度高的列作为索引，尽量建立唯一索引，区分度越高，使用索引的效率越高。
• 如果是字符串类型的字段，字段的长度较长，可以针对于字段的特点
  建立前缀索引。
• 尽量使用联合索引，减少单列索引，查询时，联合索引很多时候可以覆盖索引，节省存储空间，避免回表，提高查询效率。
• 要控制索引的数量，索引并不是多多益善，索引越多，维护索引结构的代价也就越大，会影响增删改的效率。
• 如果索引列不能存储NULL值，请在创建表时使用NOT NULL约束它。当优化器知道每列是否包含NULL值时，它可以更好地确定哪个索引最有效地用于查询。

三、SQL优化

3.1 插入数据优化

3.1.1 insert优化

1. 批量插入（一般不大于1000条）

2. 手动事务提交
   防止系统多次开启事务，提交事务浪费资源

3. 主键顺序插入

4. 大批量插入数据
   如果一次性需要插入大批量数据，使用inset语句插入性能较低，此时可以使用MVSOL数据库提供的load指令进行插入
   

#客户端连接服务端时，加上参数--local-infile
mysql --local-infile -u root -p
#设置全局参数local_infile为1，开启从本地加载文件导入数据的开关
set global local_infile= 1;
#执行load指令将准备好的数据，加载到表结构中
load data local infile 数据文件地址 into table 表名 fields terminated by 每个字段分隔的符号 lines terminated by 每一行分隔的符号;

3.1.2 主键优化

• 数据组织方式

在InnoDB存储引擎中，表数据都是根据主键顺序组织存放的，这种存储方式的表称为索引组织表(index organized table IOT)。

• 页分裂

页可以为空，也可以填充一半，也可以填充100%。每个页包含了2-N行数据(如果一行数据多大，会行溢出)，根据主键排列。

主键乱序插入，可能会导致页分裂

• 页合并

• 当删除一行记录时，实际上记录并没有被物理删除，只是记录被标记（flaged)为删除并且它的空间变得允许被其他记录声明使用。
• 当页中删除的记录达到MERGE_THRESHOLD(默认为页的50%)，InnoDB会开始寻找最靠近的页（前或后）看看是否可以将两个页合并以优化空间使用。

知识小贴士: MERGE_THRESHOLD: 合并页的闻值，可以自己设置，在创建表或者创建索引时指定。

• 主键设计原则

1. 满足业务需求的情况下，尽量降低主键的长度。
2. 插入数据时，尽量选择顺序插入，选择使用AUTO_INCREMENT自增主键。
3. 尽量不要使用UUID做主键或者是其他自然主键，如身份证号。
4. 业务操作时，避免对主键的修改。

3.1.3 order by优化

• Uusing filesort :通过表的索引或全表扫描，读取满足条件的数据行，然后在排序缓冲区sort buffer中完成排序操作，所有不是通过索引直接返回排序结果的排序都叫FileSort排序。
• Using index :通过有序索引顺序扫描直接返回有序数据，这种情况即为using index，不需要额外排序，操作效率高。

#没有创建索引时，根据age, phone进行排序
explain select id,age,phone from tb_user order by age , phone;
#创建索引
create index idx_user_age_phone_aa on tb_user(age,phone);
#创建索引后，根据age, phone进行升序排序
explain select id,age,phone from tb_user order by age , phone;
#创建索引后，根据age, phone进行降序排序
explain select id,age,phone from tb_user order by age desc , phone desc;

#根据age, phone进行降序一个升序，一个降序
explain select id,age,phone from tb_user order by age asc , phone desc;
#创建索引
create index idx_user_age_phone_ad on tb_user(age asc ,phone desc);
#根据age, phone进行降序一个升序，一个降序
explain select id,age,phone from tb_user order by age asc , phone desc;

优化原则

1. 根据排序字段建立合适的索引，多字段排序时，也遵循最左前缀法则。
2. 尽量使用覆盖索引。
3. 多字段排序，一个升序一个降序，此时需要注意联合索引在创建时的规则(ASC/DESC)。
4. 如果不可避免的出现filesort，大数据量排序时，可以适当增大排序缓冲区大小 sort_buffer_size(默认256k)。

3.1.4 group by优化

#删除掉目前的联合索引 idx_user_pro_age_sta
drop index idx_user_pro_age_sta on tb_user;
#执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession ;
#创建索引
Create index idx_user_pro_age_sta on tb_user(profession , age , status);
# 执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession;
#执行分组操作，根据profession字段分组
explain select profession , count(*) from tb_user group by profession , age;

优化原则

• 在分组操作时，可以通过索引来提高效率
• 在分组操作时，索引的使用也满足最左前缀法则

3.1.5 limit优化

遇见的问题：

一个常见又非常头疼的问题就是limit 2000000,10，此时需要MySQL排序前2000010记录，仅仅返回2000000 -
2000010的记录，其他记录丢弃，查询排序的代价非常大。

优化思路:一般分页查询时，通过创建覆盖索引能够比较好地提高性能，可以通过覆盖索引加子查询形式进行优化。

select t.* from tb_sku t , (select id from tb_sku order by id limit 2000000,10) a where t.id = a.id;

3.1.6 ount优化

• MyISAM引擎把一个表的总行数存在了磁盘上，因此执行count(*)的时候会直接返回这个数，效率很高;
• InnoDB引擎就麻烦了，它执行count(*)的时候，需要把数据一行一行地从引擎里面读出来，然后累积计数。
  优化思路：自己计数

count的几种用法

• count (主键)
  InnoDB引擎会遍历整张表，把每一行的主键id 值都取出来，返回给服务层。服务层拿到主键后，直接按行进行累加(主键不可能为nul)。
• count (字段)
  没有not null约束: InnoDB引擎会遍历整张表把每一行的字段值都取出来，返回给服务层，服务层判断是否为null，不为null，计数累加。
  有not null约束: InnoDB引擎会遍历整张表把每一行的字段值都取出来，返回给服务层，直接按行进行累加。
• count (1)
  InnoDB引擎遍历整张表，但不取值。服务层对于返回的每一行，放一个数字“1”进去，直接按行进行累加。
• count ( * )
  lnnoDB引擎并不会把全部字段取出来，而是专门做了优化，不取值，服务层直接按行进行累加。

按照效率排序的话，count(字段) < count(主键id) < count(1) = count(*)，所以尽量使用count(*)。

3.1.7 update优化

update student set no ='200010010O' where id = 1 ;
update student set no = '2000100105'where name='韦一笑";

InnoDB的行锁是针对索引加的锁，不是针对记录加的锁，并且该索引不能失效，否则会从行锁升级为表锁。

3.1.8 总结