SQL语句执行流程

SQL语句执行流程

查询语句

MySQL 的体系结构大致可以分为Server 层存储引擎层两部分;

Server层包括连接器、查询缓存、分析器、优化器、执行器等,涵盖了MySQL的大部分核心功能,以及所有的内置函数(如日期、时间、数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程、触发器、视图等。

存储引擎负责数据的存储和提取。MySQL 从 5.5.5 版本将 InnoDB 置为默认存储引擎。

下图为MySQL的基本架构示意图, 在图中可以看到 SQL 语句在MySQL各个功能模块中的执行流程:
逻辑架构

连接器

连接器,负责更客户端建立连接、获取权限、维持和管理连接的,首先第一步就是要经过连接器。

我们会通过连接命令与数据库建立连接:
需要注意以下几点:

  1. 连接长时间处于Sleep状态,默认超过wait_timeout(8h),自动断开连接;
  2. 建议使用长连接,因为建立连接过程非常复杂,为解决长连接可能导致的内存占用过大,MySQL 5.7 或更新版本中可以执行mysql_reset_connection 来重新初始化连接资源。

查询缓存

连接建立完成后, 就可以根据查询语句查询缓存了。
MySQL执行查询语句前,会通过缓存查看,是否执行过该语句(以k-v形式缓存在内存),key为查询语句,value为结果集。
但由于每次更新一张表,有关这张表的所有缓存都会被清空,查询缓存的失效非常频繁,所以不推荐启用查询缓存, MySQL 8.0 更是将整个查询缓存模块删除了。

分析器

分析器主要对 SQL 语句做解析, 首先会去做词法分析,解析“表名 persion” 是否存在,解析字段 “id” 是否在表 persion 中存在;然会去做语法分析,判断输入的SQL语句是否满足MySQL语法。

优化器

优化器为了提高执行效率,自动选择最优方案。

优化器在表里面有多个索引的时候,决定使用哪个索引;或者一个语句有多表关联的时候,决定各个表的连接顺序。比如执行下面的语句:

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;
  • 既可以先从表 t1 里面取出 c=10 的记录的 ID 值,再根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。
  • 也可以先从表 t2 里面取出 d=20 的记录的 ID 值,再根据 ID 值关联到 t1,再判断 t1 里面 c 的值是否等于 10。

这两种方案的执行逻辑是一样的, 但是执行效率可能会有所不同:

假设 t1.ID(有索引)访问时间(1s); t2.ID (无索引)访问时间(5s); t1.c (无索引)范文时间(5s); t2.d (无索引) 访问时间(5s);

按照文中第一种访问顺序: 先在无索引的 t1.c 中找c=10的记录 时间 5s, 再根据查出来的ID去对应的t2表里查ID 时间5s 共使用10s; 第二种访问顺序: 先在t2表根据t2.d查询 时间5s 再根据查出的ID在t1.ID中查询,时间1s 共使用6s。

执行器

确定了执行方案,就由执行器来操作引擎,开始执行SQL语句。

SELECT * FROM persion WHERE id = 3;

id 字段无索引,执行器流程:

  1. 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 3, 如果不是则跳过,如果是则将这行存储在结果集中;
  2. 调用引擎接口取“下一行”,重复1,2,直到取到这个表的最后一行;
  3. 执行器将结果集返回给客户端。

对于有索引(普通索引)的表,执行的逻辑差不多:

  1. 调用 InnoDB 引擎接口取满足条件的行,如果存在, 将这行存储在结果集中,如果不存在则执行步骤3;
  2. 调用引擎接口取满足条件的“下一行”,重复1,2,直到取到这个表的最后一行;
  3. 执行器将结果集返回给客户端。

在数据库语句 query statistics 中可以看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。
在这里插入图片描述

在有些场景下,执行器调用一次,在引擎内部则扫描了多行,因此引擎扫描行数跟 rows_examined 并不是完全相同的。

更新语句

一条查询语句的执行过程要经过连接器、分析器、优化器、执行器等功能模块, 最后到达存储引擎;

那么一条更新语句是怎么执行的呢?看下面的SQL语句

mysql> create table T(ID int primary key, c int);
mysql> update T set c=c+1 where ID=2;

可以说,更新语句会把查询的一套流程走一遍,只不过,更新流程还涉及到两个重要的日志模块:redo log(重做日志)、binlog(归档日志)

redo log (InnoDB)

如果每一次的更新操作都需要写进磁盘,然后磁盘也要找到对应的那条记录,然后再更新,整个过程 IO 成本、查找成本都很高;为了解决这个问题,MySQL采用了WAL技术,WAL 的全称是 Write-Ahead Logging,它的关键点就是先写日志,再写磁盘。

具体来说,当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做。

redo log是InnoDB 引擎层次物理日志,记录该数据页更新的内容;但它并没有记录数据也的完整数据,所以它并没有能力去更新磁盘数据页 。

  1. 如果是正常运行的实例的话,数据页被修改以后,跟磁盘的数据页不一致,称为脏页。最终数据落盘,就是把内存中的数据页写盘。这个过程,甚至与 redo log 毫无关系。
  2. 在崩溃恢复场景中,InnoDB 如果判断到一个数据页可能在崩溃恢复的时候丢失了更新,就会将它读到内存,然后让 redo log 更新内存内容。更新完成后,内存页变成脏页,就回到了第一种情况的状态。

InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么这块“粉板”总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写,如下面这个图所示。
在这里插入图片描述

write pos 是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint 是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件。write pos 和 checkpoint 之间的是“粉板”上还空着的部分,可以用来记录新的操作。如果 write pos 追上 checkpoint,表示“粉板”满了,这时候不能再执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下。

有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢失,这个能力称为 crash-safe

bin log

bin log 是 MySQL Server 层次的日志,也称为归档日志; bin log 中会以二进制的形式记录所有的逻辑操作, 并且采用 追加写 的形式。

  1. redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎都可以使用。
  2. redo log 是物理日志,记录的是“在某个数据页上做了什么修改”;binlog 是逻辑日志,记录的是这个语句的原始逻辑,比如“给 ID=2 这一行的 c 字段加 1 ”。
  3. redo log 是循环写的,空间固定会用完;binlog 是可以追加写入的。“追加写”是指 binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。
  1. 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
  2. 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
  3. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
  4. 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
  5. 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。

图中浅色框表示是在 InnoDB 内部执行的,深色框表示是在执行器中执行的。
在这里插入图片描述

两阶段提交

为什么将redo log 的写入拆分成了两个步骤?主要是为了让 redo log 和 binlog日志状态保持逻辑上的一致。

参考文档

02 | 日志系统:一条SQL更新语句是如何执行的?-极客时间

15 | 答疑文章(一):日志和索引相关问题-极客时间

MySQL日志系统:redo log、binlog、undo log 区别与作用_JobShow裁员加班实况-微信小程序-CSDN博客_binlog redolog undolog区别

刷脏页操作和执行时机

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值