1. 一条SQL查询语句是如何执行的?
mysql> select * from T where ID=10;
平时通常输入一条语句, 返回一个结果 , 却不知道这条语句在MySQL内部的执行过程,下面分析MySQL内部的执行过程;
MySQL可以分为Server层和存储引擎层两部分
- Server层包括连接器、 查询缓存、 分析器、 优化器、 执行器等, 涵盖MySQL的大多数核心服务
功能, 以及所有的内置函数(如日期、 时间、 数学和加密函数等) , 所有跨存储引擎的功能都在
这一层实现, 比如存储过程、 触发器、 视图等。 - 存储引擎层负责数据的存储和提取。 其架构模式是插件式的, 支持InnoDB、 MyISAM、Memory等多个存储引擎。 现在最常用的存储引擎是InnoDB, 它从MySQL 5.5.5版本开始成为了默认存储引擎。
MySQL内部的执行过程
1. 连接器
1. 先连接到这个数据库上, 这时候接待你的就是连接器。 连接器负责跟客户端建立连接、 获取权限、 维持和管理连接。
- 连接完成后, 如果你没有后续的动作, 这个连接就处于空闲状态, 你可以在show processlist命令中看到它, 客户端如果太长时间没动静, 连接器就会自动将它断开。 这个时间是由参数wait_timeout控制
的, 默认值是8小时。 如果在连接被断开之后, 客户端再次发送请求的话, 就会收到一个错误提醒: Lost connectionto MySQL server during query。 这时候如果你要继续, 就需要重连, 然后再执行请求了。 - 数据库里面, 长连接是指连接成功后, 如果客户端持续有请求, 则一直使用同一个连接。 短连接
则是指每次执行完很少的几次查询就断开连接, 下次查询再重新建立一个。 建立连接的过程通常是比较复杂的, 所以我建议你在使用中要尽量减少建立连接的动作, 也就是尽量使用长连接。 但是全部使用长连接后, 你可能会发现, 有些时候MySQL占用内存涨得特别快, 这是因为MySQL在执行过程中临时使用的内存是管理在连接对象里面的。 这些资源会在连接断开的时候才释放。 所以如果长连接累积下来, 可能导致内存占用太大, 被系统强行杀掉(OOM) , 从现象看就是MySQL异常重启了。
怎么解决这个问题呢?- 定期断开长连接。 使用一段时间, 或者程序里面判断执行过一个占用内存的大查询后, 断开
连接, 之后要查询再重连 - 如果你用的是MySQL 5.7或更新版本, 可以在每次执行一个比较大的操作后, 通过执行
mysql_reset_connection来重新初始化连接资源。 这个过程不需要重连和重新做权限验证,
但是会将连接恢复到刚刚创建完时的状态
- 定期断开长连接。 使用一段时间, 或者程序里面判断执行过一个占用内存的大查询后, 断开
2.查询缓存
MySQL拿到一个查询请求后, 会先到查询缓存看看, 之前是不是执行过这条语句。 之前执行过的语句及其结果可能会以key-value对的形式, 被直接缓存在内存中。 key是查询的语句, value是查询的结果。 如果你的查询能够直接在这个缓存中找到key, 那么这个value就会被直接返回给客户端。
**但是大多数情况下我会建议你不要使用查询缓存, 为什么呢? 因为查询缓存往往弊大利( 费劲地把结果存起来, 还没使用呢, 就被一个更新全清空了。 )**,可以采取“按需使用”的方式。 MySQL 8.0版本直接将查询缓存的整块功能删掉了
3. 分析器
如果没有命中查询缓存, Mysql就要知道你要做什么了 ,开始 对SQL语句做解析 ,**首先会采用“词法分析”,**Mysql需要识别sql里面的字符串是什么,代表什么。比如 输入的"select"这个关键字识别出来, 这是一个查询语句。 它也要把字符串“T”识别成“表名T”, 把字符串“ID”识别成“列ID” ,之后再做“语法分析”,根据词法分析结果,语法分析会根据语法规则判断你输入的SQL是否符合Mysql语法
4.优化器
经过分析器后,还要经过优化器处理,优化器是在表里有多个索引的时候,决定使用哪个索引,或者有多表连接时候,决定各个表的连接顺序。执行结果一样,但是执行顺序不一样,执行效率会有不用的。优化器作用是决定哪个方案来
5.执行器
MySQL通过分析器知道了你要做什么, 通过优化器知道了该怎么做, 于是就进入了执行器阶段, 开始执行语句。开始执行的时候要先判断这个表有没有查询权限,如果没有就会报权限不足,如果有权限,就 存储引擎 执行,流程:
- 调用InnoDB引擎接口取这个表的第一行, 判断ID值是不是10, 如果不是则跳过, 如果是则将这行存在结果集中;
- 调用引擎接口取“下一行”, 重复相同的判断逻辑, 直到取到这个表的最后一行
- 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集返回给客户端
2 一条SQL更新语句的日志系统是如何执行的?
mysql> update T set c=c+1 where ID=2;
这个SQL语句跟上面的基本的执行链路都是一样的, 在一个表上有更新的时候, 跟这个表有关的查询缓存会失效, 所以这条语句就会把表T上所有缓存结果都清空。 这也就是我们一般不建议使用查询缓存的原因 。 与查询流程不一样的是, 更新流程还涉及两个重要的日志模块为 redo log(重做日志) 和 binlog(归档日志) 。
1.重要的日志模块: redo log
当有一条记录需要更新的时候, InnoDB引擎就会先把记录写到redo log(粉板) 里面, 并更新内存, 这个时候更新就算完成了。 同时, InnoDB引擎会在适当的时候, 将这个操作记录更新到磁盘里面, 而这个更新往往是在系统比较空闲的时候做。
2.如果redo log写满了怎么办?
InnoDB的redo log是固定大小的, 比如可以配置为一组4个文件, 每个文件的大小是1GB, 那么这块“粉板”总共就可以记录4GB的操作。 从头开始写, 写到末尾就又回到开头循环写 ,边写边清楚
3.如果write pos追上checkpoint怎么办
表示“粉板”满了, 这时候不能再执行新的更新, 得停下来先擦掉一些记录, 把checkpoint推进一下
4. crash-safe 是什么?
有了redo log, InnoDB就可以保证即使数据库发生异常重启, 之前提交的记录都不会丢失, 这个
能力称为crash-safe。
5. 重要的日志模块: binlog
粉板redo log是InnoDB引擎特有的日志, 而Server层也有自己的日志, 称为binlog(归档日志) 。
3. 两种日志有以下三点不同?
- redo log是InnoDB引擎特有的; binlog是MySQL的Server层实现的, 所有引擎都可以使用。
- redo log是物理日志, 记录的是“在某个数据页上做了什么修改”; binlog是逻辑日志, 记录的
是这个语句的原始逻辑, 比如“给ID=2这一行的c字段加1 ”。 - redo log是循环写的, 空间固定会用完; binlog是可以追加写入的。 “追加写”是指binlog文件
写到一定大小后会切换到下一个, 并不会覆盖以前的日志
4. 简单的update语句时的内部流程。
-
执行器先找引擎取ID=2这一行。 ID是主键, 引擎直接用树搜索找到这一行。 如果ID=2这一行所在的数据页本来就在内存中, 就直接返回给执行器; 否则, 需要先从磁盘读入内存, 然后再返回。
-
执行器拿到引擎给的行数据, 把这个值加上1, 比如原来是N, 现在就是N+1, 得到新的一行数据, 再调用引擎接口写入这行新数据。
-
引擎将这行新数据更新到内存中, 同时将这个更新操作记录到redo log里面, 此时redo log处于prepare状态。 然后告知执行器执行完成了, 随时可以提交事务。
-
执行器生成这个操作的binlog, 并把binlog写入磁盘。
-
执行器调用引擎的提交事务接口, 引擎把刚刚写入的redo log改成提交(commit) 状态, 更
新完成。将redo log的写入拆成了两个步骤: prepare和commit, 这就是"两阶段提交"
1. 为什么日志需要“两阶段提交”。
由于redo log和binlog是两个独立的逻辑, 如果不用两阶段提交, 要么就是先写完redo log再写binlog,
- 先写redo log后写binlog。 假设在redo log写完, binlog还没有写完的时候, MySQL进程异常重启。 由于我们前面说过的,redo log写完之后 系统即使崩溃, 仍然能够把数据恢复回来, 所以恢复后这一行c的值为1。
但是由于binlog没写完就crash了, 这时候binlog里面就没有记录这个语句。 因此, 之后备份日志的时候, 存起来的binlog里面就没有这条语句。然后你会发现, 如果需要用这个binlog来恢复临时库的话, 由于这个语句的binlog丢失, 这个临时库就会少了这一次更新, 恢复出来的这一行c的值就是0, 与原库的值不同。 - 先写binlog后写redo log。 如果在binlog写完之后crash, 由于redo log还没写, 崩溃恢复以后这个事务无效, 所以这一行c的值是0。 但是binlog里面已经记录了“把c从0改成1”这个日志。 所以, 在之后用binlog来恢复的时候就多了一个事务出来, 恢复出来的这一行c的值就是1, 与原库的值不同。
- 如果不使用“两阶段提交”, 那么数据库的状态就有可能和用它的日志恢复出来的库的状态不一致