MySQL之InnoDB存储引擎-架构

MySQL之InnoDB存储引擎-架构

注：本文是以windos mysql v8.0.25、Centos7 Linux mysql v8.0.26 进行讲解

1.InnoDB存储引擎架构图

MySQL5.5 版本开始，默认使用InnoDB存储引擎，它擅长事务处理，具有崩溃恢复特性，在日常开发中使用非常广泛。下面是InnoDB架构图，左侧为内存结构，右侧为磁盘结构

在左侧的内存结构中，主要分为这么四大块儿：
Buffer Pool、Change Buffer、AdaptiveHash Index、Log Buffer

2.内存结构

2.1Buffer Pool缓冲池

InnoDB存储引擎基于磁盘文件存储，访问物理硬盘和在内存中进行访问，速度相差很大，为了尽可能弥补这两者之间的I/O效率的差值，就需要把经常使用的数据加载到缓冲池中，避免每次访问都进行磁盘I/O。

在InnoDB的缓冲池中不仅缓存了索引页和数据页，还包含了undo页、插入缓存、自适应哈希索引以及InnoDB的锁信息等等。
缓冲池 Buffer Pool，是主内存中的一个区域，里面可以缓存磁盘上经常操作的真实数据，在执行增删改查操作时，先操作缓冲池中的数据（若缓冲池没有数据，则从磁盘加载并缓存），然后再以一定频率刷新到磁盘，从而减少磁盘IO，加快处理速度。

缓冲池以Page页为单位，底层采用链表数据结构管理Page。根据状态，将Page分为三种类型：
• free page：空闲page，未被使用。
• clean page：被使用page，数据没有被修改过。
• dirty page：脏页，被使用page，数据被修改过，也中数据与磁盘的数据产生了不一致。（即业务在执行增删改查的时候，把缓冲池里的数据改了，但是磁盘中的数据还没有改，原因是缓冲区的数据还没有刷新到磁盘上，这一类页称之为脏页）
注：“在1.InnoDB存储引擎架构图”中的那个图片中Buffer Pool那一块区域一个个块代表着就页，不同颜色的块代表着三种不同类型的页

在专用服务器上，通常将多达80％的物理内存分配给缓冲池 。参数设置： show variables like ‘innodb_buffer_pool_size’;

show variables  like 'innodb_buffer_pool_size';

2.2Change Buffer更改缓冲区

在5.多版本的时候，是没有Change Buffer的，那时叫insert buffer 插入缓冲区；在8.0之后才引入了Change Buffer

Change Buffer:
Change Buffer，更改缓冲区（针对于非唯一索引即二级索引页，即主键索引或者唯一索引是不会操作缓冲区的），在执行DML语句(增删改)时，如果这些数据Page没有在Buffer Pool中，不会直接操作磁盘，而会将数据变更存在更改缓冲区 Change Buffer中，在未来数据被读取时，再将数据合并恢复到Buffer Pool中，再将合并后的数据刷新到磁盘中。

Change Buffer的意义是什么呢?
先来看一幅图，如下是是二级索引的结构图：
与聚集索引不同，二级索引通常是非唯一的，并且以相对随机的顺序插入二级索引(注：主键索引通常是按顺序插入的)。同样，删除和更新可能会影响索引树中不相邻的二级索引页，如果每一次都操作磁盘，会造成大量的磁盘IO。有了ChangeBuffer之后，我们可以在缓冲池中进行合并处理，减少磁盘IO。

2.3AdaptiveHash Index自适应哈希索引

自适应hash索引，用于优化对Buffer Pool数据的查询。MySQL的innoDB引擎中虽然没有直接支持hash索引，但是给我们提供了一个功能就是这个自适应hash索引。因为前面我们讲到过，hash索引在进行等值匹配时，一般性能是要高于B+树的，因为hash索引一般只需要一次IO即可，而B+树，可能需
要几次匹配，所以hash索引的效率要高，但是hash索引又不适合做范围查询、模糊匹配等。
InnoDB存储引擎会监控对表上各索引页的查询，如果观察到在特定的条件下hash索引可以提升速度，则建立hash索引，称之为自适应hash索引。
自适应哈希索引，无需人工干预，是系统根据情况自动完成。
参数： innodb_adaptive_hash_index

show variables  like 'innodb_adaptive_hash_index';

2.4Log Buffer日志缓冲区

Log Buffer：日志缓冲区，用来保存要写入到磁盘中的log日志数据（redo log 、undo log），默认大小为 16MB，日志缓冲区的日志会定期刷新到磁盘中。如果需要更新、插入或删除许多行的事务，增加日志缓冲区的大小可以节省磁盘 I/O。
参数:
innodb_log_buffer_size：缓冲区大小
innodb_flush_log_at_trx_commit：日志刷新到磁盘时机，取值主要包含以下三个：
1: 日志在每次事务提交时写入并刷新到磁盘，默认值。
0: 每秒将日志写入并刷新到磁盘一次
2: 日志在每次事务提交后写入，并每秒刷新到磁盘一次。

show variables  like 'innodb_log_buffer_size';
show variables  like 'innodb_flush_log_at_trx_commit';

3.磁盘结构

3.1System Tablespace系统表空间

系统表空间是Change Buffer更改缓冲区的存储区域。
如果表是在系统表空间而不是每个表文件或通用表空间中创建的，它也可能包含表和索引数据。(在MySQL5.x版本中还包含InnoDB数据字典、undolog等)

通俗讲解：需要注意的是System Tablespace系统表空间在8.0版本之后又被重新规划了，在MySQL5.x版本中还包含InnoDB数据字典、undolog日志等信息，在8.0之后主要存放的就是更改缓冲区的数据。
如果innodb引擎当中我们每一张表的独立表空间开关关闭着的话，那么所有的表的数据以及索引也是在系统表空间的

参数：innodb_data_file_path
系统表空间，默认的文件名叫 ibdata1。

show variables  like 'innodb_data_file_path';

3.2File-Per-Table Tablespaces每张表的独立表空间

如果开启了innodb_file_per_table开关 ，则每个表的文件表空间包含单个InnoDB表的结构、数据和索引 ，并存储在文件系统上的单个数据文件中。
开关参数：innodb_file_per_table ，该参数默认开启。
“File-Per-Table Tablespaces每张表的独立表空间”即是ibd结尾的文件。
那也就是说，如果参数开启，我们每创建一个表，都会产生一个表空间文件，并不会在System Tablespace如图：

show variables  like 'innodb_file_per_table';`在这里插入代码片`

3.3General Tablespaces通用表空间

通用表空间，需要通过 CREATE TABLESPACE 语法创建通用表空间，在创建表时，可以指定该表空间

创建表空间

-- ts_name是表空间的名字；'file_name'是指定表空间关联的表空间文件，即真实的名字；engine_name指定存储引擎
CREATE TABLESPACE ts_name ADD DATAFILE 'file_name' ENGINE = engine_name;

创建表时指定表空间

CREATE TABLE xxx ... TABLESPACE ts_name;

3.4Undo Tablespaces撤销表空间

Undo Tablespaces叫做撤销表空间，也叫做undo表空间，MySQL实例在初始化时会自动创建两个默认的undo表空间（初始大小16M），用于存储undo log日志。
涉及到两个文件大小相同的表空间文件，叫undo_001与undo_002,默认叫这两个名字

3.5Temporary Tablespaces临时表空间

InnoDB 使用会话临时表空间和全局临时表空间。存储用户创建的临时表等数据。

3.6Doublewrite Buffer Files双写缓冲区

双写缓冲区，innoDB引擎将数据页从Buffer Pool刷新到磁盘前，先将数据页写入双写缓冲区文件中，便于系统异常时恢复数据。
默认的两个文件名叫：#ib_16384_0.dblwr、#ib_16384_1.dblwr

3.7Redo Log重做日志

重做日志，是用来实现事务的持久性,事务的持久性依赖于Redo Log。
该日志文件由两部分组成：重做日志缓冲区（redo log buffer）以及重做日志文件（redo log）,前者是在内存中，后者在磁盘中。当事务提交之后会把所有修改信息都会存到该日志中, 用于在刷新脏页到磁盘时,发生错误时, 进行数据恢复使用。
Redo Log里的内容不会永久保存，会每隔一段时间及进行清理之前没有用的Redo Log里的内容。
以循环方式写入重做日志文件，涉及两个文件:
默认两个文件名叫作ib_logfile0、ib_logfile1，这两个文件被称为“重做日志文件(redo log file)”。

注;当事务提交后，Redo Log实际上意义也不大了

4.后台线程

4.1分类

前面我们介绍了InnoDB的内存结构，以及磁盘结构，那么内存中我们所更新的数据，又是如何到磁盘中的呢？ 此时，就涉及到一组后台线程，后台线程的作用就是将Innodb存储引擎的缓冲池当中的数据在合适的时机刷新到磁盘文件当中
接下来，就来介绍一些InnoDB中涉及到的后台线程:
在InnoDB的后台线程中，分为4类，分别是：
Master Thread 、IO Thread、Purge Thread、Page Cleaner Thread。

4.2Master Thread

核心后台线程，负责调度其他线程，还负责将缓冲池中的数据异步刷新到磁盘中, 保持数据的一致性，还包括脏页的刷新、合并插入缓存、undo页的回收 。

4.3IO Thread

在InnoDB存储引擎中大量使用了AIO(异步非阻塞IO)来处理IO请求, 这样可以极大地提高数据库的性能，而IOThread主要负责这些IO请求的回调。

IO Thread分以下四类,10个

-- 可以通过以下的这条指令，查看到InnoDB的状态信息，其中就包含IO Thread信息。
show engine innodb status \G;

4.4Purge Thread

主要用于回收事务已经提交了的undo log，在事务提交之后，undo log可能不用了，就用它来回收。

4.5Page Cleaner Thread

协助 Master Thread 刷新脏页到磁盘的线程，它可以减轻 Master Thread 的工作压力，减少阻塞